ChatGLM-6B icon indicating copy to clipboard operation
ChatGLM-6B copied to clipboard

增加api流式接口; 新增基于流式api和streamlit的web_demo

Open liseri opened this issue 1 year ago • 0 comments

  1. 增加api流式接口(ocetstream方式,非websocket);基于fastapi,没有引入其它的框架 写完发现,已经有相关的PR,简单扫了一下,没有我这个方案简单。
  2. 新增(改自旧demo)一个基于流式api和streamlit的web_demo
  3. 将api和demo相关文件抽到到一个新目录
  4. 修改以上3点相关的readme部分

liseri avatar Apr 25 '23 05:04 liseri