FastGPT icon indicating copy to clipboard operation
FastGPT copied to clipboard

使用http调用llm如何实现流式输出

Open goactiongo opened this issue 1 year ago • 1 comments

如果不使用oneapi,通过fastgpt的http调用第三方模型,通过http+指定回复,输出效果不好,如何实现流式输出的效果

goactiongo avatar Jan 01 '25 15:01 goactiongo

http 无法实现流

c121914yu avatar Jan 04 '25 23:01 c121914yu