ChatGLM-6B icon indicating copy to clipboard operation
ChatGLM-6B copied to clipboard

Published 20 hours ago • verified publisher icon THUDM

[Help] 请问下目前模型量化使用的是什么技术进行的量化？

Open liguodongiot opened this issue 1 year ago • 0 comments

image

文中提到可以使用GPTQ进一步进行模型量化，请问下目前的量化方法是什么呢

liguodongiot avatar Apr 12 '23 06:04 liguodongiot