Softgoto
Softgoto
http://localhost:3000/ 如果不带上`v1`默认是进入管理后台的，但Azure OpenAI的接口是不带`v1`的，感觉是路由层的规则限制了，因为不懂go语言，同样被这个问题困扰中
@draenix 把issue翻了几遍，找到了作者的一段回复内容，作者说“另外 One API 是把 Azure 的格式转换为 OpenAI 的格式，而不是反过来。”。原文在这里：https://github.com/songquanpeng/one-api/issues/127 我的理解是，我们在One API中配置的渠道不管是OpenAI还是Azure OpenAI还是开源模型，对调用者来说，他都应该按OpenAI的格式来使用。 我做了测试，渠道中配置了Azure OpenAI模型，使用langchain框架和postman的http请求调用，都成功了。
遇到同样的错误，有时候能进入 UI，并且部署重排模型，但过一会刷新页面就报错了，提示没有可用的 worker 节点。 系统环境如下： Windows 11 专业版 Python 3.11.9 xinference 1.2.2 NVIDIA 4090 Driver Version: 560.94 CUDA Version: 12.6 Cuda compilation tools, release 12.4, V12.4.131 torch 2.4.0+cu124 torchaudio 2.4.0+cu124...
@Rongbeixu 在启动命令前增加这两个环境变量试试 $env:XINFERENCE_HEALTH_CHECK_INTERVAL="30" $env:XINFERENCE_HEALTH_CHECK_ATTEMPTS="18" 我在没有增加这两个变量的时候，启动也是遇到 RuntimeError: Cluster is not available after multiple attempts 这个错误。
@Rongbeixu 跟我现在遇到的问题一样了，执行启动命令后UI可以访问，在Cluster Information中能看到Supervisor和Workers的详细信息，但是过一会刷新页面就报错了（raise RuntimeError("No available worker found")），从日志上看，持续有Worker timeout.的错误信息输出
我的环境是：Intel(R) Core(TM) i9-14900K、NVIDIA GeForce RTX 4090
@Rongbeixu Python 版本降到 3.10 还是相同的错误
@yao512954855 试过 0.0.0.0 和 127.0.0.1 都不行