Pinealeye comments

Repositories
Issues
Comments

Results 2 comments of


                                            Pinealeye

申请支持支持Qwen2.5-VL-72B-Instruct-AWQ模型，VLLM推理

官方2025.2.25日发布了awq量化版本的模型了：https://www.modelscope.cn/models/Qwen/Qwen2.5-VL-7B-Instruct-AWQ；https://www.modelscope.cn/models/Qwen/Qwen2.5-VL-72B-Instruct-AWQ

申请支持支持Qwen2.5-VL-72B-Instruct-AWQ模型，VLLM推理

你好，我已经收到你的邮件。