Langchain-Chatchat icon indicating copy to clipboard operation
Langchain-Chatchat copied to clipboard

api.py脚本打算增加SSE流式输出吗?

Open cristianohello opened this issue 2 years ago • 8 comments

curl调用的时候可以检测第一个字,从而提升回复的体验

cristianohello avatar May 31 '23 09:05 cristianohello

api.py中有websocket方式 目前我是这样使用的,但是接口好像都是串行的

ferrymo avatar Jun 02 '23 06:06 ferrymo

@ferrymo 哪个响应时间更快呢?

cristianohello avatar Jun 02 '23 07:06 cristianohello

@ferrymo 是下面这样调用的吗?还是其他调用方式。我的向量改成本地加载了,下面这种方式: ACfOb1bUHm

curl -X 'POST'
'http://127.0.0.1:8000/chat-docs/stream-chat/'
-H 'accept: application/json'
-H 'Content-Type: application/json'
-d '{ "knowledge_base_id": "string", "question": "你好", "history": [] }'

cristianohello avatar Jun 02 '23 07:06 cristianohello

@ferrymo 你是怎么调用的?curl吗? curl -X 'POST'
'http://127.0.0.1:8000/chat/'
-H 'accept: application/json'
-H 'Content-Type: application/json'
-d '{ "knowledge_base_id": "string", "question": "你好", "history": [] }'

这样有问题,该如何修改呢?

cristianohello avatar Jun 02 '23 10:06 cristianohello

面这样调用的吗?还是其他调用方式。我的向量改成本地加载

使用websocket方式调用

ferrymo avatar Jun 02 '23 10:06 ferrymo

@ferrymo websocket怎么调用?有调用的代码吗?感谢感谢

cristianohello avatar Jun 05 '23 08:06 cristianohello

@ferrymo 大佬,问一下,能使用curl调用吗?格式是什么?

我下面这样调用会报错: curl -X 'POST'
'http://127.0.0.1:8000/local_doc_qa/stream-chat/baoxian_FAISS_20230602_172352'
-H 'accept: application/json'
-H 'Content-Type: application/json'
-d '{ "question": "卡塔尔世界杯冠军是谁", "history": [], "knowledge_base_id": "baoxian_FAISS_20230602_172352", }'

cristianohello avatar Jun 07 '23 02:06 cristianohello

需要用websocket的方式调用,不是http的post方式

你用postman的话,有websocket实例 image 这样调用 image

在程序里调用的找下支持ws的sdk

zfanswer avatar Jun 16 '23 05:06 zfanswer