Open-LLM-VTuber icon indicating copy to clipboard operation
Open-LLM-VTuber copied to clipboard
verified publisher icon t41372

提供独立 Qwen 设置项

Open shadowquee opened this issue 10 months ago • 5 comments

qwen新出的一些模型最近挺热的。另外对于国人来说调用API相较于openai、gemini等也更容易一些，能降低使用门槛

shadowquee avatar Feb 13 '25 23:02 shadowquee

Qwen 兼容 OpenAPI，可以直接调用

ylxmf2005 avatar Feb 15 '25 08:02 ylxmf2005

如果你指的是 Qwen 的 API 的话，他们的 API 应该兼容 OpenAI API 格式，你可以直接把相关的参数填写在 openai_compatible_llm 设置下来使用。

不过我们可以添加一个 qwen 的设置项来帮助小白用户轻松的使用。

t41372 avatar Feb 15 '25 16:02 t41372

如果你指的是 Qwen 的 API 的话，他们的 API 应该兼容 OpenAI API 格式，你可以直接把相关的参数填写在 openai_compatible_llm 设置下来使用。

不过我们可以添加一个 qwen 的设置项来帮助小白用户轻松的使用。

嗯嗯，既然可以在 openai_compatible_llm 使用，那没必要再单独写qwen的了，我认为可以在注释里列举上qwen的base_url作为提醒。当然这样的话不局限与qwen，其他能兼容OpenAI API 格式的也可以列举上。

shadowquee avatar Feb 15 '25 19:02 shadowquee

其实我们项目里除了 Claude, llamacpp 和 ollama (加了模型内存管理) 以外，其他全都是 openai_compatible_llm 的马甲😂，只是改了 base_url 和一些别的设定方便用户直接用而已。所以添加一个 qwen api的也很合理。

t41372 avatar Feb 15 '25 20:02 t41372

你好，这个功能已经实现了，请参考我最新的有关于添加中国供应商的pull request

mastwet avatar Oct 29 '25 12:10 mastwet