ChatUI icon indicating copy to clipboard operation
ChatUI copied to clipboard

有提供stream模式吗,类似打字机的效果。

Open yichuxue opened this issue 2 years ago • 9 comments

**What problem does this feature solve? ** 我需要对接大语言模型,输出不是一次性的。

**Describe the solution you'd like ** 暂无,能否支持这个功能。

**What does the proposed API look like? ** 提供一个支持stream模式的api

yichuxue avatar Apr 12 '23 03:04 yichuxue

有个替代方案,可以从dom中按“Bubble text”类查到当前正在输出文字的元素,设置innerHTML属性,代码见:https://github.com/git-cloner/codegen/blob/main/chat/src/App.js,效果如https://gitclone.com/aiit/chat/

little51 avatar Apr 12 '23 05:04 little51

感谢,我试试

yichuxue avatar Apr 12 '23 08:04 yichuxue

有个替代方案,可以从dom中按“Bubble text”类查到当前正在输出文字的元素,设置innerHTML属性,代码见:https://github.com/git-cloner/codegen/blob/main/chat/src/App.js,效果如https://gitclone.com/aiit/chat/

有没有兴趣部署个Vicuna-13B、ChatGLM-6B 不太行了。参见 https://lmsys.org/blog/2023-05-25-leaderboard/

82kg avatar May 30 '23 09:05 82kg

www.yichuxue.com

yichuxue avatar May 30 '23 09:05 yichuxue

这有个不太成熟的解决方案:写个含有updateMsg的回调,让处理EventStream的方法不断去执行这个回调

frey0415 avatar Jul 21 '23 03:07 frey0415

www.yichuxue.com

yichuxue avatar Jul 21 '23 03:07 yichuxue

这里有解决方案了嘛~求求

littleFutureGo avatar Dec 18 '23 11:12 littleFutureGo

www.yichuxue.com

yichuxue avatar Dec 18 '23 11:12 yichuxue

已实现方案:requests.send方法访问服务器时,服务器接口返回如下格式: image 然后在handlers.parseResponse方法中加入如下逻辑即可实现: image

qq572099423 avatar May 21 '24 02:05 qq572099423