chineseocr_lite icon indicating copy to clipboard operation
chineseocr_lite copied to clipboard

Published 20 hours ago • verified publisher icon DayBreak-u

对ncnn模型进行int8量化

Open zqnnn opened this issue 4 years ago • 3 comments

您好，我想对ncnn模型进一步压缩一下，进行int8量化，应该怎么操作呢？

zqnnn avatar May 21 '20 02:05 zqnnn

ncnn有量化的工具，需要训练的数据集

DayBreak-u avatar Jun 24 '20 01:06 DayBreak-u

@DayBreak-u大佬，您好，对于LSTM到Innerproduct之间有reshape问题，根据nihui小姐姐的手工优化方法，已经实现推理过程。但是在使用ncnn2table工具时，LSTM到Innerproduct之间还是存在Innerproduct报错，您有没有遇到这种情况，然后可以怎样解决呢。请大佬赐教！

Coderhancode avatar Apr 14 '21 02:04 Coderhancode

这要问nihui大佬了

DayBreak-u avatar Apr 14 '21 02:04 DayBreak-u