code-8888
Results
4
comments of
code-8888
> > 主要是内存,需要32G内存,CPU吃不满。但这个模式下非常慢。 > > 内存不够的话可以用量化模型 https://huggingface.co/THUDM/chatglm-6b-int4 我用的就是你这个int4的
页面起来了 然后也加载问题了 但一直不回答
> 你好,请问你解决了吗? 并没有 还是一直不回答 可能是内存16G运算不出来?
> > 主要是内存,需要32G内存,CPU吃不满。但这个模式下非常慢。 > > 内存不够的话可以用量化模型 https://huggingface.co/THUDM/chatglm-6b-int4 用的就是int4 为什么还是不回答呢 是因为16G的内存 还是因为cpu运算不出来么