openspg icon indicating copy to clipboard operation
openspg copied to clipboard

LLM 配置 在 0.8 version 为什么改动这么大? 0.6 version 的配置LLM 现状用不了。

Open gaohongfeng1977 opened this issue 4 months ago • 4 comments

0.6 version 用的maas 方式 配置的 私域LLM API,在0.8 version怎么配置呢? 向量模型我们也是用的私域的API,现在好像也不能配置了。

我看官方文档帮助,只有Ollama的方式在local 本地装服务。但是,我们用的公司提供的私域大模型服务。

0.6 Version Image

0.8 Version

Image

gaohongfeng1977 avatar Aug 22 '25 05:08 gaohongfeng1977

要不你试试OpenAI那个选项?

Climber848 avatar Aug 29 '25 07:08 Climber848

不行,链接超时。是不是openai只能链接公网的地址? 我用的企业私有LLM服务。

gaohongfeng1977 avatar Sep 03 '25 06:09 gaohongfeng1977

不行,链接超时。是不是openai只能链接公网的地址? 我用的企业私有LLM服务。

有一个很奇怪的现象 我配置的qwen的LLM 如果模型选qwen-plus就可以 如果配置 qwen3-32b就报错 可能模型适配没有完善 你的情况是连接超时,那你应该ping一下 试试看网络连通信

Climber848 avatar Sep 03 '25 06:09 Climber848

不行,链接超时。是不是openai只能链接公网的地址? 我用的企业私有LLM服务。

有一个很奇怪的现象 我配置的qwen的LLM 如果模型选qwen-plus就可以 如果配置 qwen3-32b就报错 可能模型适配没有完善 你的情况是连接超时,那你应该ping一下 试试看网络连通信

网络是通的,0.6版本都能正常用。

gaohongfeng1977 avatar Oct 29 '25 05:10 gaohongfeng1977