chatgpt-on-wechat icon indicating copy to clipboard operation
chatgpt-on-wechat copied to clipboard

ollama做api后端

Open MRQJsfhf opened this issue 9 months ago • 8 comments

⚠️ 搜索是否存在类似issue

  • [X] 我已经搜索过issues和disscussions,没有发现相似issue

总结

不支持ollama等本地大模型做后端吗?

举例

No response

动机

No response

MRQJsfhf avatar May 16 '24 12:05 MRQJsfhf

对的,我看见支持qwen,但还是不能调用本地的,自动转向外网!

[ERROR][2024-05-18 17:47:28][chat_channel.py:303] - Worker return exception: Error: MissingAccessKeyId code: 400, AccessKeyId is mandatory for this action. request id: E5D277B2-AFB0-5EB5-9FA5-027572678F8A Response: {'RequestId': 'E5D277B2-AFB0-5EB5-9FA5-027572678F8A', 'Message': 'AccessKeyId is mandatory for this action.', 'Recommend': 'https://api.aliyun.com/troubleshoot?q=MissingAccessKeyId&product=bailian&requestId=E5D277B2-AFB0-5EB5-9FA5-027572678F8A', 'HostId': 'bailian.cn-beijing.aliyuncs.com', 'Code': 'MissingAccessKeyId', 'statusCode': 400}

phonezhou avatar May 18 '24 18:05 phonezhou

有一个pr试试呢,看看是否可行 #1932

6vision avatar May 19 '24 09:05 6vision

有一个pr试试呢,看看是否可行 #1932

我正在用呢

taozhiyuai avatar May 22 '24 04:05 taozhiyuai

@6vision 合并这个PR呀

taozhiyuai avatar May 22 '24 04:05 taozhiyuai

@6vision 合并这个PR呀

可以正常使用,对吧,有什么问题没

6vision avatar May 22 '24 07:05 6vision

@6vision 合并这个PR呀

可以正常使用,对吧,有什么问题没

没问题

taozhiyuai avatar May 22 '24 10:05 taozhiyuai

我在本地合并了这个pr,目前使用暂时只发现设定的character_desc无法起到作用,其余功能正常

Zctoylm0927 avatar May 24 '24 05:05 Zctoylm0927

如何配置呢? 谁发个config.json 看看

leedaga avatar Aug 23 '24 10:08 leedaga