阿言ayan

Results 9 comments of 阿言ayan

just solved it 刚解决了 参考这个 https://github.com/OpenDevin/OpenDevin/issues/1187#issuecomment-2078997391

@enyst You are right. I have noticed that but didn't mention it. For me,my `LLM_API_VERSION="2024-01-25-preview"` @he-aook 你是都用的azure吧?参考文档:https://github.com/OpenDevin/OpenDevin/blob/main/docs/guides/AzureLLMs.md

什么报错?你LiteLLM本地能调起来吗?代码有更新到最新版本吗?页面选择你设置的模型了吗

`LLM_MODEL`=azure/你的模型部署名 这里你写的应该是embedding模型的模型名 `LLM_EMBEDDING_DEPLOYMENT_NAME`应该写你的embedding模型部署名 你这里写了可能是你的gpt4模型部署名 其他暂时应该没有错误 请问你按照我的用例 测试了本地是否能运行LiteLLM了吗?OpenDevin底层是通过LiteLLM调用的API 你如果本地LiteLLM都跑不起来 OpenDevin里肯定也不行

import问题 是不是venv/conda没有装litLLM? `pip install litellm`看看有没有安装

@he-aook 抱歉 我之前没注意 你这个问题实际上不是因为没安装 是因为你本地文件起的名字和类库的名字重叠了 然后他import了他自己导致没有找到那个`completion` 修改一下文件名称再跑一下脚本 确认一下你的配置是否正确 如果正确了且前台正常启动就直接在页面找自己的模型名就可以

@he-aook 我看这个报错可能是你的参数配置有问题 建议确认下你的Azure上的参数和配置的是否有出入 查看你之前的截图 可能是部分参数没有写 https://github.com/OpenDevin/OpenDevin/issues/1385#issuecomment-2081356172 ```python from litellm import completion ## set ENV variables os.environ["AZURE_API_KEY"] = "" os.environ["AZURE_API_BASE"] = "" ## miss os.environ["AZURE_API_VERSION"] = "" ## miss # azure...

`os.environ["AZURE_API_VERSION"] = "0125-Preview"` 这个配置的格式是错误的 应该为类似于`2024-01-25-preview`这样格式