greenhand0011
Results
2
comments of
greenhand0011
> 这个目前还没有碰到过。 我这边4090显卡也遇到了这个问题，最后发现使用Qwen3-Next-Instruct-80B-FP8-Dynamic可以正常启动，请问xinference考虑加这个模型吗
> [@Tian14267](https://github.com/Tian14267) transformers后端暂时需要源码安装 > > pip install git+https://github.com/huggingface/transformers.git@main 你好，我试着用transformers更新源码启动模型之后，跟模型对话回复乱码 ，另外咨询下，qwen3-next-fp8用vllm启动报错有临时解决办法吗