Qwen2.5 icon indicating copy to clipboard operation
Qwen2.5 copied to clipboard

Published 20 hours ago • verified publisher icon QwenLM

有没有介绍不同量化模型回答问题的差距分析

Open papandadj opened this issue 11 months ago • 0 comments

我最近想在项目上用qwen1.5来驱动，但是我不太懂int4量化、int8量化还是16量化他们的差距有多大。有没有关于这方面的文章分析

papandadj avatar Mar 13 '24 01:03 papandadj