weekly
weekly copied to clipboard
【开源工具自荐】将openai、claude、azure openai, gemini, 智谱AI, 讯飞星火API等模型服务方的调用转为openai方式调用
https://github.com/tian-minghui/openai-style-api
屏蔽不同大模型API的差异,统一用openai api标准格式使用大模型, 也可以用来做api-key的二次分发管理; 配置化管理不同大模型调用参数,让你在使用大模型的时候只需关注 api-key 和 messages
- [x] 支持多种大模型,当前已支持
- [x] openai
- [x] azure open ai
- [x] claude-api 【api申请在等待列表,暂未测试】
- [x] claude-web (将web端功能封装成openai api)
- [x] 智谱ai
- [ ] bingchat
- [ ] 百度文心一言
- [x] 讯飞星火
- [x] gemini
- [ ] ...
- [x] 支持stream方式调用
- [x] 支持open ai的第三方代理服务,比如openai-sb等
- [x] 支持负载均衡,一个key可轮训/随机/并行等访问多个模型
- [x] 支持按照model_name进行路由,可以方便的结合ChatGPT-Next-Web
- [ ] 错误和异常处理优化,对齐openai errorcode