chatbox
chatbox copied to clipboard
[Feature] 能否增加对智谱AI的GLM4的模型支持?
尽管当前的版本已经支持了对ChatGLM6B 的开源版本的API 模型的支持。 但是其母公司智谱AI自己的闭源大模型服务GLM4和GLM3.5 的Model API ,当前的Chatbox仍然不支持和配置; 虽然有些国产大模型公司,采用了与OPENAI 兼容的API请求,如Moonshot KIMI; 但 智谱的REST 接口采用了 和OPENAI REST 路径完全不同的路径,如 https://open.bigmodel.cn/api/paas/v4/chat/completions
由于ChatBox 的OPENAI 接口模式,无法自己定义后面的路径,所以单纯用自定义模型的方式,还是无法调用GLM4的API ;
请ChatBox 增加对智谱清言GLM4 API 接口, 或者允许用户自己定义API域名 或者 API 请求路径 两种方式二选一; 这样能够为更多的非完全兼容OPENAI 接口形式的大模型API 提供支持。
同样希望加入智谱AI的API支持,国内少有的免费API提供商
好像语法格式也是不同的,希望可以添加支持
语法格式是一样的, 只是Base URL 不同; client=OpenAI(base_url="https://open.bigmodel.cn/api/paas/v4/",api_key="******")
参见接口文档: https://open.bigmodel.cn/dev/api#openai_sdk
今天测试是发现是支持的。