请问支持流式吗？

Open lcvcl opened this issue 1 year ago • 1 comments

没看到是否支持流式的相关文档和例子

May 17 '24 01:05 lcvcl

没看到是否支持流式的相关文档和例子

普通的prompt 请求以及openai 请求格式都支持参考文档 https://github.com/alibaba/rtp-llm/blob/main/docs/Request.md https://github.com/alibaba/rtp-llm/blob/main/docs/OpenAI-Tutorial.md

May 20 '24 10:05 jianglan89