nnom icon indicating copy to clipboard operation
nnom copied to clipboard

Published 20 hours ago • verified publisher icon majianjia

带截断的relu激活函数，量化结果问题请教

Open wenzhu888 opened this issue 2 years ago • 2 comments

使用relu6这类带截断的激活函数训练模型，量化后输出结果出错，想请教一下是什么原因？

wenzhu888 avatar Jul 05 '22 08:07 wenzhu888

这个可能得把每一层数据输出，才好判断是哪一层出错了。截断Relu应该是测试过的

majianjia avatar Jul 08 '22 09:07 majianjia

量化选取的截断值都是2的n次方，这样量化误差会比较大吧？

------------------ 原始邮件 ------------------ 发件人: "majianjia/nnom" @.>; 发送时间: 2022年7月8日(星期五) 下午5:31 @.>; @.@.>; 主题: Re: [majianjia/nnom] 带截断的relu激活函数，量化结果问题请教 (Issue #167)

这个可能得把每一层数据输出，才好判断是哪一层出错了。截断Relu应该是测试过的

— Reply to this email directly, view it on GitHub, or unsubscribe. You are receiving this because you authored the thread.Message ID: @.***>

wenzhu888 avatar Jul 19 '22 07:07 wenzhu888