one-api
one-api copied to clipboard
支持 LLM stream_options 参数
例行检查
- [x] 我已确认目前没有类似 issue
- [x] 我已确认我已升级到最新版本
- [x] 我已完整查看过项目 README,已确定现有版本无法满足需求
- [x] 我理解并愿意跟进此 issue,协助测试和提供反馈
- [x] 我理解并认可上述内容,并理解项目维护者精力有限,不遵循规则的 issue 可能会被无视或直接关闭
功能描述
如上图,GPT模型新增了 stream_options 参数,便于 stream 模式下获取 usage 值。
应用场景