leo-bot

使用自定义模型，启动之后发起聊天会话失败

2

### System Info / 系統信息 CUDA Version: 12.6 ### Running Xinference with Docker? / 是否使用 Docker 运行 Xinfernece？ - [x] docker / docker - [ ] pip install / 通过...

qwen2.5-instruct模型响应回答很缓慢

2

### System Info / 系統信息 CUDA Version: 12.6 RTX4070 Super，显卡大小：12G ### Running Xinference with Docker? / 是否使用 Docker 运行 Xinfernece？ - [x] docker / docker - [ ] pip install...