QiuZiXian comments

Results 10 comments of


                                            QiuZiXian

66666 ![image](https://user-images.githubusercontent.com/28780269/218099792-f99a8ded-abfb-4a28-90d9-4443e4f2ef19.png)

same here

好像是官方限速？https://community.openai.com/t/your-service-is-useless-for-developers-just-tell-us-the-truth/145376

升级到11了，还是不行 ![image](https://github.com/xorbitsai/inference/assets/28780269/92321d34-cc7c-4aa9-ab27-30935192cf9a)

升级ollama

你使用的哪种渠道？大概率是伪openai风格。 KeyError: 'finish_reason'。或者是openai_style.py没有适配的那么全。你使用的oneapi吗

qwen2:7b-instruct-fp16是通过什么方式接入的oneapi。 qwen2:7b-instruct-fp16的server服务，直接请求。返回的格式和openai风格应该是有略微差异的。我私有化百川，发现就是返回结构有略微差别

Maybe you can find a solution here #294

> 有没有一个可以直接适配openai协议的model接口？ #291

[sudo apt install portaudio19-dev # Ubuntu/Debian](https://lxblog.com/qianwen/share?shareId=d6047fb7-4c75-4729-9741-d2193c496393)