chatbox icon indicating copy to clipboard operation
chatbox copied to clipboard

Published 20 hours ago • verified publisher icon chatboxai

[Feature]

Open Hydraczm opened this issue 2 years ago • 0 comments

希望可以自定义图标和头像，以及去除界面的顶栏，会好看很多。 是目前用过最舒服的api端，感谢作者。

Hydraczm avatar Apr 20 '23 09:04 Hydraczm

你这个是那个28g的自己量化的吗，他们的gptq的模型可以直接用吗

liukangjia666 avatar Apr 11 '23 01:04 liukangjia666

你这个是那个28g的自己量化的吗，他们的gptq的模型可以直接用吗

量化方式我是用的chatglm的，28g的权重下载下来，用转换脚本转一下，然后就可以跑了，我在本机12g显存的机器上测下来是ok的

Tongjilibo avatar Apr 11 '23 03:04 Tongjilibo

转换脚本哪里可以找到？

linqingping avatar Jan 05 '24 07:01 linqingping

转换脚本哪里可以找到？ 现在无需要转换脚本，只是需要使用我提供的bert4torch_config.json即可，可以参考脚本，config文件

Tongjilibo avatar Jan 05 '24 08:01 Tongjilibo