rrgkGitHub
Results
1
comments of
rrgkGitHub
用bitsandbytes 4bit量化加载模型后，12G显存可以运行。 速度中等偏慢，但可以接受。