FastGPT
FastGPT copied to clipboard
应用API返回的usage数据都是1
例行检查
- [x] 我已确认目前没有类似 issue
- [x] 我已完整查看过项目 README,以及项目文档
- [x] 我使用了自己的 key,并确认我的 key 是可正常使用的
- [x] 我理解并愿意跟进此 issue,协助测试和提供反馈
- [x] 我理解并认可上述内容,并理解项目维护者精力有限,不遵循规则的 issue 可能会被无视或直接关闭
你的版本
- [ ] 公有云版本
- [x] 私有部署版本, 具体版本号: V4.8.22
问题描述, 日志截图,配置文件等 通过api方式调用应用的API,usage数据都是1
复现步骤
- 应用内引用自定义模型,如qwen2.5-1b
- 模型配置里,直接使用qwen的URL和KEY,不走one api
- 客户端调用fastgpt的应用API,会看到usage数据都是1,
- 在前端页面的日志里,可以看到正确的token计数
- 直接请求模型提供商的API,确认可以正确返回usage数据
预期结果 应用的API返回数据中,正确传递从模型提供商返回的usage数据
相关截图
通过查看compeltions.ts文件,发现这里全部写死成1了。
使用应用的API,返回结果里,usage的数据都是1
补充:请求未指定"stream"和"detail",应该都是false
始终会是 1
responsedata 里有每个节点的具体使用情况。