higress
higress copied to clipboard
[HEP] Support More LLM Providers
背景
最近 Higress 上线了一个新的 Wasm 插件,AI 代理(ai-proxy),支持对接各类 AI 大模型服务提供商,并以统一的 OpenAI 接口契约对外提供服务。目前已支持 OpenAI、Azure OpenAI、通义千问(Qwen)和月之暗面(Moonshot)。
为了进一步扩展该插件的功能,我们需要对接更多的 AI 大模型服务提供商。欢迎大家积极参与本项任务。感兴趣的同学可以在对应的子 issue 下留言认领。
待对接服务提供商
- [ ] #1695
- [ ] #1696
- [ ] #1697
- [ ] #1698
- [x] #1642
- [x] #954
- [x] #944
- [x] #952
- [x] #941
- [x] #956
- [x] #947
- [x] #945
- [x] #946
- [x] #948
- [x] #949
- [x] #950
- [x] #951
- [x] #953
- [x] #955
- [x] #957
- [x] #958
- [x] #959
- [x] #960
- [x] #961
- [x] #962
- [x] #963
- [x] #964
参考文档
- 使用 Higress + LobeChat 快速搭建私人GPT助理
- 使用 Higress + NextChat 快速搭建私人GPT助理
- 通义千问2.5“客串”ChatGPT4,你分的清吗(内含 AI 代理插件介绍)
- 使用 GO 语言开发 WASM 插件(内含本地调试方法介绍)
百度文心一言的对接,我这边来开发吧 麻烦帮忙分配下 @CH3CHO
百度文心一言的对接,我这边来开发吧 麻烦帮忙分配下 @CH3CHO
麻烦在 https://github.com/alibaba/higress/issues/941 下面评论,我会进行分配。
腾讯混元大模型(链接)的对接,能让我试试吗? @CH3CHO
字节豆包大模型的对接,我可以试下吗? @CH3CHO
字节豆包大模型的对接,我可以试下吗? @CH3CHO
麻烦直接在 https://github.com/alibaba/higress/issues/954 下留言,以便分配任务。谢谢!