one-api icon indicating copy to clipboard operation
one-api copied to clipboard

中转会截断回答

Open Ward-zzZ opened this issue 10 months ago • 1 comments

例行检查

  • [x] 我已确认目前没有类似 issue
  • [x] 我已确认我已升级到最新版本
  • [x] 我已完整查看过项目 README,尤其是常见问题部分
  • [x] 我理解并愿意跟进此 issue,协助测试和提供反馈
  • [x] 我理解并认可上述内容,并理解项目维护者精力有限,不遵循规则的 issue 可能会被无视或直接关闭

问题描述 使用oneapi中转时会截断回答,使用原api直连的话不会存在这个问题,见下图 复现步骤 正常使用中如果回答内容较长就会出现截断。我查看了日志,completionTokens和返回的截断内容长度是一致的,但是实际上原api返回的内容更长。我在lobechat和chathub实验了,都存在这个问题。 预期结果

相关截图 image

Ward-zzZ avatar Apr 24 '24 16:04 Ward-zzZ

可能是你nginx的超时,如果你用了cf,也可能是cf的超时,这个严格来说不是one的问题,是你网络响应的截断

ye4293 avatar Apr 25 '24 04:04 ye4293