网络错误,请检查您的网络连接
在最新的提交上尝试重新部署,仍然有问题,比起issue74更离谱。
跟着官方文档一步步配置并启动必然复现,任何Remote API都连接不上(issue74时使用RemoteAPI还能正常连接embedding和rerank的)
拉取最新的代码,重新编译镜像,再尝试一下
可以在本地确认接口连接是否正常
curl --location 'http://{ip}:{port}/v1/chat/completions' \
--header 'Content-Type: application/json' \
--header 'Authorization: Bearer {api-key}'
--data-raw '{
"messages": [
{
"role": "user",
"content": "你好"
}
],
"model": "{model}"
}'
docker compose logs -f 在配置Remote API时没有任何新增日志
前端显示连接错误,发送的请求根本不是到后端的。已经重新编译过了
拉取最新的代码,重新编译镜像,再尝试一下
可以在本地确认接口连接是否正常
curl --location 'http://{ip}:{port}/v1/chat/completions' \ --header 'Content-Type: application/json' \ --header 'Authorization: Bearer {api-key}' --data-raw '{ "messages": [ { "role": "user", "content": "你好" } ], "model": "{model}" }'
这个是要确认哪个服务正常?我用百炼和openrouter在web上配置都不行,但是服务器直接curl是正常的
- 检查docker运行的机器与服务器之间是否连接正常
- 在docker的机器上执行一下curl,尝试一下把v1去掉,或者模型名称是否一致
- 该模型api是否支持openai协议
上面说过了,服务器上直接curl到大模型供应商是没问题的,用的就是openai协议的接口 https://dashscope.aliyuncs.com/compatible-mode/v1/chat/completions https://dashscope.aliyuncs.com/compatible-mode/v1
https://openrouter.ai/api/v1/chat/completions https://openrouter.ai/api/v1
应该是前端的问题吧?/check接口为什么要去请求百炼呢? 即使我填openrouter也还是去请求百炼。 正常应该是发送到后端,再由后端发送到填的模型供应商那里吧?
哥们解决了吗,我也是这个模型配置问题,可以正常curl,但配置就出问题,试了好多模型都不行,给我快搞焦虑了