MNN icon indicating copy to clipboard operation
MNN copied to clipboard

Published 20 hours ago • verified publisher icon alibaba

2.7.1版本下，andorid预测输出出现nan，同样的模型在2.5.0版本上正常

Open yangy996 opened this issue 10 months ago • 9 comments

e32dd3e6a717aec7afe2daacd4d549cd src.zip

yangy996 avatar Oct 24 '23 03:10 yangy996

这个模型在python的MNN=2.7.1版本实测是正常的，在Android上就会报nan的错误

yangy996 avatar Oct 24 '23 03:10 yangy996

上传ONNX原模型给我们查一下

v0jiuqi avatar Oct 27 '23 01:10 v0jiuqi

上传ONNX原模型给我们查一下

det.onnx

yangy996 avatar Oct 27 '23 01:10 yangy996

上传ONNX原模型给我们查一下

det.onnx

下不了

v0jiuqi avatar Oct 27 '23 05:10 v0jiuqi

上传ONNX原模型给我们查一下

det.zip

yangy996 avatar Oct 27 '23 05:10 yangy996

这个模型在fp32精度下用两个版本去跑，结果是一致的，没有nan。你是在fp16精度下跑的吗

v0jiuqi avatar Dec 15 '23 03:12 v0jiuqi

这个模型在fp32精度下用两个版本去跑，结果是一致的，没有nan。你是在fp16精度下跑的吗

image 设置backendConfig.precision = MNN::BackendConfig::Precision_Low;的时候，识别就出现nan 设置backendConfig.precision = MNN::BackendConfig::Precision_Low_BF16;的时候，识别就正常

yangy996 avatar Dec 26 '23 01:12 yangy996

这个模型在fp32精度下用两个版本去跑，结果是一致的，没有nan。你是在fp16精度下跑的吗

还有个问题backendConfig.power = MNN::BackendConfig::Power_High;CPU占用比MNN::BackendConfig::Power_Low;高30%左右

yangy996 avatar Dec 26 '23 01:12 yangy996

这个模型在fp32精度下用两个版本去跑，结果是一致的，没有nan。你是在fp16精度下跑的吗

image 设置backendConfig.precision = MNN::BackendConfig::Precision_Low;的时候，识别就出现nan 设置backendConfig.precision = MNN::BackendConfig::Precision_Low_BF16;的时候，识别就正常

嗯。Low就是fp16

v0jiuqi avatar Dec 26 '23 02:12 v0jiuqi

Marking as stale. No activity in 60 days.

github-actions[bot] avatar Feb 24 '24 09:02 github-actions[bot]