CreativeChatGLM icon indicating copy to clipboard operation
CreativeChatGLM copied to clipboard

Published 20 hours ago • verified publisher icon ypwhs

是否考虑集成chatglm.cpp？

Open Ancho5515 opened this issue 1 year ago • 0 comments

项目地址：https://github.com/li-plus/chatglm.cpp 测试ChatGLM-6B-int8 模型也可以用3080 10G显存跑起来，速度很快稳定

Ancho5515 avatar Jan 09 '24 08:01 Ancho5515