one-api icon indicating copy to clipboard operation
one-api copied to clipboard

商汤模型中,SSE返回格式不兼容

Open jelipo opened this issue 6 months ago • 1 comments

例行检查

  • [x] 我已确认目前没有类似 issue
  • [x] 我已确认我已升级到最新版本
  • [x] 我已完整查看过项目 README,尤其是常见问题部分
  • [x] 我理解并愿意跟进此 issue,协助测试和提供反馈
  • [x] 我理解并认可上述内容,并理解项目维护者精力有限,不遵循规则的 issue 可能会被无视或直接关闭

问题描述

尝试接入商汤模型时发现只返回了一个"[DONE]"字符串,而没有正常返回回答内容,直接调用商汤模型(https://api.sensenova.cn/compatible-mode/v1/chat/completions)时是可以正常返回的。

Debug OneAPI代码发现商汤模型返回的SSE的data:前缀和内容实体之间没有空格,导致下图代码部分直接认为是不合理的内容,直接跳过了。

复现步骤

  1. 添加渠道
  2. 写自定义模型名称
  3. 填入密钥
  4. 填入代理 https://api.sensenova.cn/compatible-mode
  5. 添加令牌
  6. 通过令牌调用 OneAPI

预期结果

除了 data: {xxx} 格式外,正常解析 data:{xxx}

相关截图 image

jelipo avatar Aug 15 '24 06:08 jelipo