ChatGLM-6B
ChatGLM-6B copied to clipboard
增加api流式接口; 新增基于流式api和streamlit的web_demo
- 增加api流式接口(ocetstream方式,非websocket);基于fastapi,没有引入其它的框架 写完发现,已经有相关的PR,简单扫了一下,没有我这个方案简单。
- 新增(改自旧demo)一个基于流式api和streamlit的web_demo
- 将api和demo相关文件抽到到一个新目录
- 修改以上3点相关的readme部分