Yunzhi@AI Force
Results
2
issues of
Yunzhi@AI Force
### Class | 类型 大语言模型 ### Feature Request | 功能请求 DeepSeek使用了openAI兼容的API,我在 config 中需改重定向,改为: API_URL_REDIRECT = {"https://api.openai.com/v1/chat/completions": "https://api.deepseek.com/chat/completions"} 但是不起作用。不知道具体如何配置?
windows 下使用demo程序,本地加载模型库,运行一直报错: raise ImportError('flash_attn is not installed.') ImportError: flash_attn is not installed. 通过 pip install flash_attn 一直无法安装成功 请问如何解决?