Anion
Results
6
comments of
Anion
同样出现了这个问题,在输入框输入时发生
dashboard里模型等菜单显示空白
> 同样的问题 应该是int4版本的model.safetensors文件中缺少metadata引起的
尝试一下安装flash-attn==1.0.4,我这边可以
尝试用pm2部署后也出现相同的问题,且设置更改后无法保存生效