NNIE-lite icon indicating copy to clipboard operation
NNIE-lite copied to clipboard

Published 20 hours ago • verified publisher icon mxsurui

数据输入，量化的问题

Open elevenface opened this issue 4 years ago • 1 comments

1.假设我从摄像头获取数据，VPSS可以直接输出resize后的YUV数据，理论可以省掉opencv的数据处理层。 2.输入端为8bit 正整数，一般的模型均为float32，这样的条件下，如果做量化效果会比较好

elevenface avatar Nov 30 '20 02:11 elevenface

1.假设我从摄像头获取数据，VPSS可以直接输出resize后的YUV数据，理论可以省掉opencv的数据处理层。 2.输入端为8bit 正整数，一般的模型均为float32，这样的条件下，如果做量化效果会比较好

参考下文章： https://openaccess.thecvf.com/content_cvpr_2018/papers/Jacob_Quantization_and_Training_CVPR_2018_paper.pdf

Strand2013 avatar Nov 30 '20 07:11 Strand2013