jamesdod

mnn推理时间异常

6

两个现象： 1.fp32和fp16的推理时间一样 2.int8的推理时间大于fp16/fp32 |模型|fp32/ms|fp16/ms|int8/ms| |---|---|---|---| |较大|313|312|339| |较小|41|40|47| armv8，linux aarch64 推理代码上，唯一的区别就是fp32是Precision_High，fp16和int8是Precision_Low。 可能的原因是什么呢？谢谢

## detail | 详细描述 | 詳細な説明 linux，cpu，为了查看cpu使用情况，把loop次数设置为1000，运行benchmark时cpu占用率很低13%左右。 设置了powersave=2，num_threads=1，2，3，4都没有用。 请问这可能是什么原因呢，有办法可以提升cpu使用率么？谢谢

MNN内存泄漏检查

2

# 平台(如果交叉编译请再附上交叉编译目标平台): linux,x86_64 # Github版本: 2.8.2 # 编译方式: ``` cd build cmake .. make ``` # 运行命令 ``` ./MNNV2Basic.out test.mnn 2 0 3 1 ``` 即循环两次，使用opencl推理，线程数为1 # 内存检查日志 ``` ==3421355==...

MNN推理的内存/cpu使用率

1

# 平台(如果交叉编译请再附上交叉编译目标平台): linux,x86_64 # Github版本: 2.8.2 # 编译方式: ``` cmake .. make ``` # 设置： 1. 推理代码完全一样，只有forward_type不一样，一个为MNN_FORWARD_CPU，一个为MNN_FORWARD_OPENCL 2. 通过`cat /proc/pid/status`来查看物理内存，**CPU内存** 3. 通过`top`命令查看cpu使用率 # 现象： 1. CPU版本内存为50M，GPU版本内存为150M。这仅是**CPU内存**，为什么GPU版本的**CPU内存**使用比CPU版本还高呢 2. CPU版本的cpu使用率为80%，GPU版本的cpu使用率为60%。为什么GPU版本的cpu使用率还这么高呢，应该只有传入和传出数据，计算量很低吧