weekly icon indicating copy to clipboard operation
weekly copied to clipboard

【开源工具自荐】将openai、claude、azure openai, gemini, 智谱AI, 讯飞星火API等模型服务方的调用转为openai方式调用

Open tian-minghui opened this issue 6 months ago • 0 comments

https://github.com/tian-minghui/openai-style-api

屏蔽不同大模型API的差异,统一用openai api标准格式使用大模型, 也可以用来做api-key的二次分发管理; 配置化管理不同大模型调用参数,让你在使用大模型的时候只需关注 api-key 和 messages

  • [x] 支持多种大模型,当前已支持
    • [x] openai
    • [x] azure open ai
    • [x] claude-api 【api申请在等待列表,暂未测试】
    • [x] claude-web (将web端功能封装成openai api)
    • [x] 智谱ai
    • [ ] bingchat
    • [ ] 百度文心一言
    • [x] 讯飞星火
    • [x] gemini
    • [ ] ...
  • [x] 支持stream方式调用
  • [x] 支持open ai的第三方代理服务,比如openai-sb等
  • [x] 支持负载均衡,一个key可轮训/随机/并行等访问多个模型
  • [x] 支持按照model_name进行路由,可以方便的结合ChatGPT-Next-Web
  • [ ] 错误和异常处理优化,对齐openai errorcode

tian-minghui avatar Dec 22 '23 06:12 tian-minghui