更多的LLM服务支持
请问服务是否只支持了OpenAI的模型服务?对于国内的大模型有支持或者支持计划么?
- 目前支持了 OpenAI 以及兼容 OpenAI 格式的模型服务,你可以通过 “设置 -> 模型” 里的 “添加服务” 来设置其他兼容的第三方服务。据我了解,国内大部分模型服务应该都提供了兼容 OpenAI API 格式的接口。如果你现在急着用,可以先通过这个办法来使用。不过这个功能我现在感觉做得不太好,后面很可能会重新设计。
- 希望接入哪个平台可以提需求,只要不是特别麻烦,我可以优先接入,开发的时候做了抽象分层,接入一个新服务原则上不会很难。
例如如果你使用的是 siliconflow,那么模型就可以填自己想用的模型,比如 deepseek-ai/DeepSeek-V2.5,URL 填 https://api.siliconflow.cn/v1/chat/completions
使用openrouter,尝试了claude sonnet 和 qwen2.5,都没有回复
@hwdef 你好,我没有用过 openrouter,不过我看你的 URL 路径似乎不完整,如果 openrouter 兼容了 OpenAI API 格式的话,试试 https://openrouter.ai/api/v1/completions
@hwdef 我去注册了个账号测试了下,应该是下面这个 URL,我试了下可以触发回复了。 https://openrouter.ai/api/v1/chat/completions
这个问题目前没有太好的解决办法,因为不同平台提供的 URL 前缀都不统一,BabelDuck 这边没法自动补充路径,只能由用户自行填入完整 URL
https://openrouter.ai/api/v1/chat/completions 这个接口确实有效👍
接口可以参照lobe-chat,几乎所有的接口都支持
很有用的工作👍,openai 的 realtime api 是否考虑支持呢?
Bot detected the issue body's language is not English, translate it automatically. 👯👭🏻🧑🤝🧑👫🧑🏿🤝🧑🏻👩🏾🤝👨🏿👬🏿
Very useful work👍, will openai’s realtime api be considered to be supported?
很有用的工作👍,openai 的 realtime api 是否考虑支持呢?
@HeMuling 会支持的,但是还在考虑怎么设计,在实时语音模式下,可能就无法使用快捷指令这套工具了,它们跟实时交互是互相冲突的。
Bot detected the issue body's language is not English, translate it automatically. 👯👭🏻🧑🤝🧑👫🧑🏿🤝🧑🏻👩🏾🤝👨🏿👬🏿
Very useful work👍, will openai’s realtime api be considered to be supported?
@HeMuling will support it, but we are still considering how to design it. In real-time voice mode, we may not be able to use the shortcut command tool set. They conflict with real-time interaction.