xinye1120
Results
1
comments of
xinye1120
> 我跟你是相同的问题，效果也一样，用f16的模型没问题，但是用量化后的 q4的模型就是这个情况 我后来按照最新的文档操作了一遍没有这个问题了，我重新操作用的是7b的alpaca的模型。一定要注意使用正确的文件，