one-api icon indicating copy to clipboard operation
one-api copied to clipboard

支持 LLM stream_options 参数

Open c121914yu opened this issue 7 months ago • 3 comments

例行检查

  • [x] 我已确认目前没有类似 issue
  • [x] 我已确认我已升级到最新版本
  • [x] 我已完整查看过项目 README,已确定现有版本无法满足需求
  • [x] 我理解并愿意跟进此 issue,协助测试和提供反馈
  • [x] 我理解并认可上述内容,并理解项目维护者精力有限,不遵循规则的 issue 可能会被无视或直接关闭

功能描述

image

如上图,GPT模型新增了 stream_options 参数,便于 stream 模式下获取 usage 值。

应用场景

c121914yu avatar Jul 21 '24 13:07 c121914yu