TNN icon indicating copy to clipboard operation
TNN copied to clipboard

tnn内存占用大于onnxruntime,同时内存占用没有波动,一直稳定在30M

Open coreeey opened this issue 1 year ago • 0 comments

1. 环境(environment)

  • Build OS and Version: Ubuntu
  • RunTime OS Version: Linux
  • RunTime DEVICE: METAL

2. Github版本

  • branch:mian
  • commit(optional):

3. 编译方式(compile method) CMake完整编译参数(full cmake arguments)为默认参数

5. 详细描述bug 情况 (Describe the bug) 在进行文本分类任务时,我这里将onnxruntime推理后端修改为了TNN,希望可以减少一些内存占用。但是将onnxruntime修改为TNN后,内存占用不降反增了。我这里模型大小约为3M,使用onnxruntime时,内存占用均值为22M,峰值为28M,但是切换为TNN后,内存占用稳定在30M,几乎看不到波动,请问这可能是什么原因导致的呢?能提供一些意见吗?

coreeey avatar Jul 11 '24 03:07 coreeey