one-api
one-api copied to clipboard
中转会截断回答
例行检查
- [x] 我已确认目前没有类似 issue
- [x] 我已确认我已升级到最新版本
- [x] 我已完整查看过项目 README,尤其是常见问题部分
- [x] 我理解并愿意跟进此 issue,协助测试和提供反馈
- [x] 我理解并认可上述内容,并理解项目维护者精力有限,不遵循规则的 issue 可能会被无视或直接关闭
问题描述 使用oneapi中转时会截断回答,使用原api直连的话不会存在这个问题,见下图 复现步骤 正常使用中如果回答内容较长就会出现截断。我查看了日志,completionTokens和返回的截断内容长度是一致的,但是实际上原api返回的内容更长。我在lobechat和chathub实验了,都存在这个问题。 预期结果
相关截图
可能是你nginx的超时,如果你用了cf,也可能是cf的超时,这个严格来说不是one的问题,是你网络响应的截断