allenxml

是否在ollama中测试过速度？

1

在ollama中导入hugging face上4bit量化后的gguf格式模型，在openwebui中提问，输出速度很慢。 ollama主机4060ti 16g型号的显卡显存占用才8G，显卡核心频率经常在210，很少到最大频率，7950x的CPU占用率50％。

zero的paper没有更新

1

### System Info / 系統信息 点击链接进去后，还是去年8月的paper ### Who can help? / 谁可以帮助到您？ _No response_ ### Information / 问题信息 - [ ] The official example scripts / 官方的示例脚本 - [ ]...