Backend设置Precision_Low，部分图片输出结果正常，部分图片输出全0

Open atlantis1314 opened this issue 1 year ago • 3 comments

 MNN::ScheduleConfig netConfig;
 netConfig.type = MNN_FORWARD_CPU;
netConfig.numThread = 4;
netConfig.backupType = netConfig.type;
MNN::BackendConfig backend_config;
backend_config.precision = MNN::BackendConfig::Precision_Low; 
netConfig.backendConfig = &backend_config;
session = net->createSession(netConfig);
mnn设置如上，当设置Precision_Normal 或Precision_High时，所有测试图片输出结果都正常，
为了提升性能，设置Precision_Low时，部分图片输出结果正常，部分图片输出结果全为0，
能帮忙分析下是什么原因吗，或者给点建议，谢谢！
使用的模型是同问题2960的lama模型。

编译时也设置了MNN_ARM82=ON
打开了mnn的日志输出，只有
MNNJNI  : The device support i8sdot:1, support fp16:1, support i8mm: 0
硬件平台应该是支持fp16的。

平台(如果交叉编译请再附上交叉编译目标平台):

编译平台：Ubuntu 18.04.6
程序运行平台：android手机， 高通芯片 6450

Github版本:

mnn2.8.0

编译方式:

cmake ../../../
-DCMAKE_TOOLCHAIN_FILE=$ANDROID_NDK/build/cmake/android.toolchain.cmake
-DCMAKE_BUILD_TYPE=Release
-DANDROID_ABI="arm64-v8a"
-DANDROID_STL=c++_static
-DMNN_USE_LOGCAT=true
-DMNN_BUILD_BENCHMARK=ON
-DMNN_USE_SSE=OFF
-DMNN_OPENCL=ON
-DMNN_VULKAN=ON
-DMNN_ARM82=ON
-DMNN_SUPPORT_BF16=ON
-DMNN_BUILD_OPENCV=ON
-DMNN_BUILD_TEST=ON
-DANDROID_NATIVE_API_LEVEL=android-21
-DMNN_BUILD_FOR_ANDROID_COMMAND=true
-DNATIVE_LIBRARY_OUTPUT=. -DNATIVE_INCLUDE_OUTPUT=. $1 $2 $3