FastGPT icon indicating copy to clipboard operation
FastGPT copied to clipboard

应用API返回的usage数据都是1

Open uprit opened this issue 10 months ago • 1 comments

例行检查

  • [x] 我已确认目前没有类似 issue
  • [x] 我已完整查看过项目 README,以及项目文档
  • [x] 我使用了自己的 key,并确认我的 key 是可正常使用的
  • [x] 我理解并愿意跟进此 issue,协助测试和提供反馈
  • [x] 我理解并认可上述内容,并理解项目维护者精力有限,不遵循规则的 issue 可能会被无视或直接关闭

你的版本

  • [ ] 公有云版本
  • [x] 私有部署版本, 具体版本号: V4.8.22

问题描述, 日志截图,配置文件等 通过api方式调用应用的API,usage数据都是1

复现步骤

  1. 应用内引用自定义模型,如qwen2.5-1b
  2. 模型配置里,直接使用qwen的URL和KEY,不走one api
  3. 客户端调用fastgpt的应用API,会看到usage数据都是1,
  4. 在前端页面的日志里,可以看到正确的token计数
  5. 直接请求模型提供商的API,确认可以正确返回usage数据

预期结果 应用的API返回数据中,正确传递从模型提供商返回的usage数据

相关截图 通过查看compeltions.ts文件,发现这里全部写死成1了。 Image

使用应用的API,返回结果里,usage的数据都是1 Image

uprit avatar Feb 23 '25 05:02 uprit

补充:请求未指定"stream"和"detail",应该都是false

uprit avatar Feb 23 '25 05:02 uprit

始终会是 1

c121914yu avatar Feb 24 '25 14:02 c121914yu

responsedata 里有每个节点的具体使用情况。

c121914yu avatar Feb 24 '25 14:02 c121914yu