Langchain-Chatchat icon indicating copy to clipboard operation
Langchain-Chatchat copied to clipboard

程序以API模式启动的时候,如何才能让接口以stream模式被调用呢?

Open includepanda opened this issue 1 year ago • 4 comments

作者您好,我在以API模式进行程序启动后,我发现接口响应时间很长,怎么样才能让接口以stream模式被调用呢?我想实现像webui模式的回答那样

includepanda avatar Jun 05 '23 12:06 includepanda

应该需要将接口写成流式的并前端也需要写适配流的页面

ywm12345 avatar Jun 07 '23 09:06 ywm12345

+1.希望下个版本能出来这种功能。

cristianohello avatar Jun 08 '23 05:06 cristianohello

+1

xxentropy avatar Jun 09 '23 08:06 xxentropy

想调用流式问答的接口,需要用支持websocket的api工具,比如postman,insomnia等,建议使用开源的insomnia。

hzg0601 avatar Jun 14 '23 15:06 hzg0601