MNN
MNN copied to clipboard
2.7.1版本下,andorid预测输出出现nan,同样的模型在2.5.0版本上正常
这个模型在python的MNN=2.7.1版本实测是正常的,在Android上就会报nan的错误
上传ONNX原模型给我们查一下
上传ONNX原模型给我们查一下
det.onnx
上传ONNX原模型给我们查一下
det.onnx
下不了
这个模型在fp32精度下用两个版本去跑,结果是一致的,没有nan。你是在fp16精度下跑的吗
这个模型在fp32精度下用两个版本去跑,结果是一致的,没有nan。你是在fp16精度下跑的吗
设置backendConfig.precision = MNN::BackendConfig::Precision_Low;的时候,识别就出现nan
设置backendConfig.precision = MNN::BackendConfig::Precision_Low_BF16;的时候,识别就正常
这个模型在fp32精度下用两个版本去跑,结果是一致的,没有nan。你是在fp16精度下跑的吗
还有个问题backendConfig.power = MNN::BackendConfig::Power_High;CPU占用比MNN::BackendConfig::Power_Low;高30%左右
这个模型在fp32精度下用两个版本去跑,结果是一致的,没有nan。你是在fp16精度下跑的吗
设置backendConfig.precision = MNN::BackendConfig::Precision_Low;的时候,识别就出现nan 设置backendConfig.precision = MNN::BackendConfig::Precision_Low_BF16;的时候,识别就正常
嗯。Low就是fp16
Marking as stale. No activity in 60 days.