TNN
TNN copied to clipboard
tnn内存占用大于onnxruntime,同时内存占用没有波动,一直稳定在30M
1. 环境(environment)
- Build OS and Version: Ubuntu
- RunTime OS Version: Linux
- RunTime DEVICE: METAL
2. Github版本
- branch:mian
- commit(optional):
3. 编译方式(compile method) CMake完整编译参数(full cmake arguments)为默认参数
5. 详细描述bug 情况 (Describe the bug) 在进行文本分类任务时,我这里将onnxruntime推理后端修改为了TNN,希望可以减少一些内存占用。但是将onnxruntime修改为TNN后,内存占用不降反增了。我这里模型大小约为3M,使用onnxruntime时,内存占用均值为22M,峰值为28M,但是切换为TNN后,内存占用稳定在30M,几乎看不到波动,请问这可能是什么原因导致的呢?能提供一些意见吗?