Langchain-Chatchat
Langchain-Chatchat copied to clipboard
api.py脚本打算增加SSE流式输出吗?
curl调用的时候可以检测第一个字,从而提升回复的体验
api.py中有websocket方式 目前我是这样使用的,但是接口好像都是串行的
@ferrymo 哪个响应时间更快呢?
@ferrymo
是下面这样调用的吗?还是其他调用方式。我的向量改成本地加载了,下面这种方式:
curl -X 'POST'
'http://127.0.0.1:8000/chat-docs/stream-chat/'
-H 'accept: application/json'
-H 'Content-Type: application/json'
-d '{
"knowledge_base_id": "string",
"question": "你好",
"history": []
}'
@ferrymo
你是怎么调用的?curl吗?
curl -X 'POST'
'http://127.0.0.1:8000/chat/'
-H 'accept: application/json'
-H 'Content-Type: application/json'
-d '{
"knowledge_base_id": "string",
"question": "你好",
"history": []
}'
这样有问题,该如何修改呢?
面这样调用的吗?还是其他调用方式。我的向量改成本地加载
使用websocket方式调用
@ferrymo websocket怎么调用?有调用的代码吗?感谢感谢
@ferrymo 大佬,问一下,能使用curl调用吗?格式是什么?
我下面这样调用会报错:
curl -X 'POST'
'http://127.0.0.1:8000/local_doc_qa/stream-chat/baoxian_FAISS_20230602_172352'
-H 'accept: application/json'
-H 'Content-Type: application/json'
-d '{
"question": "卡塔尔世界杯冠军是谁",
"history": [],
"knowledge_base_id": "baoxian_FAISS_20230602_172352",
}'
需要用websocket的方式调用,不是http的post方式
你用postman的话,有websocket实例
这样调用
在程序里调用的找下支持ws的sdk