ncnn 请问ncnn支持uint8量化吗？

请问ncnn支持uint8量化吗？

Open liamsun2019 opened this issue 3 years ago • 7 comments

Jun 20 '22 00:06 liamsun2019

int8量化有，uint8是什么鬼

Jun 20 '22 01:06 wzyforgit

unsigned int8量化。很多模型用Int8量化后精度损失很大，用Uint8会好很多。

Jun 20 '22 01:06 liamsun2019

unsigned int8量化。很多模型用Int8量化后精度损失很大，用Uint8会好很多。

emmmmmmmm，这个就不知道怎么玩了，等大佬来解答吧=。=

Jun 20 '22 01:06 wzyforgit

int8 量化，不取负数？不都是 256 个数的范围么？

Jun 20 '22 09:06 niinorz

考虑到 zero_point 计算要慢一点，现在就是对称量化 int8 。

Jun 21 '22 07:06 tpoisonooo

这是底层实现的问题，看这个： https://zhuanlan.zhihu.com/p/476605320

最后一个 ”why -128 hurt performance“

Jun 29 '22 09:06 tpoisonooo

@niinorz

Jun 29 '22 09:06 tpoisonooo