chatgpt-web-midjourney-proxy icon indicating copy to clipboard operation
chatgpt-web-midjourney-proxy copied to clipboard

Published 20 hours ago • verified publisher icon Dooy

chatgpt支持流式输出吗？如何设置

Open catninelife opened this issue 1 year ago • 4 comments

感谢提供这么好的工具。我使用vercal部署的，现在是“正在思考”，然后一次性输出，如何改成流式输出？

catninelife avatar Jan 03 '24 00:01 catninelife

你是不是 前面 vercal 套了一层是么？ vercal 是支持流输出的 如果是你前面套了 一层NGINX,配置 需要 proxy_buffering off;

Dooy avatar Jan 03 '24 08:01 Dooy

谢谢大佬解答。没有做其他的，我是直接vercal部署的... 哦，我自定义的openai base url，跟这个有关系吗？ 但是我试了一下用chatgpt next web的话是流式输出的。

catninelife avatar Jan 03 '24 13:01 catninelife

你可以 直接在前端ui的设置里面吧 base_url 填上去试下 image

Dooy avatar Jan 04 '24 02:01 Dooy

在前端填入base_url和key是流式输出... 这是什么原因? 谢谢大佬

catninelife avatar Jan 04 '24 05:01 catninelife

vercal 不支持流输出 相关配置 没见过如果有 你可以提供下

Dooy avatar Jan 27 '24 01:01 Dooy