lobe-chat icon indicating copy to clipboard operation
lobe-chat copied to clipboard

⚡️ perf: add smoothing for openai

Open LovelyGuYiMeng opened this issue 5 months ago • 3 comments

💻 变更类型 | Change Type

  • [ ] ✨ feat
  • [ ] 🐛 fix
  • [ ] ♻️ refactor
  • [ ] 💄 style
  • [ ] 👷 build
  • [x] ⚡️ perf
  • [ ] 📝 docs
  • [ ] 🔨 chore

🔀 变更说明 | Description of Change

我知道对于openai模型,不开smoothing生成速度会更快 可如果使用oneapi接入其他生成较慢的模型,没有smoothing观感会比较差 对于openai模型本身来说,开了smoothing会让视觉观感更好,并且应该没什么人会对生成速度零点几秒的差距有感觉

📝 补充信息 | Additional Information

LovelyGuYiMeng avatar Sep 11 '24 10:09 LovelyGuYiMeng