TNN icon indicating copy to clipboard operation
TNN copied to clipboard
verified publisher icon Tencent

opencl平台 申请内存失败

Open miaott1234 opened this issue 4 years ago • 3 comments

opencl 平台部署的时候，当输入图片尺寸比较大时，某一个op的输出size大于设备的image_size，报错： OpenCL ERROR CODE : -40 OpenCL Conv malloc memory failed 请问这种情况要怎么办呢？

miaott1234 avatar Nov 08 '21 09:11 miaott1234

是否方便提供一下模型，目前TNN OpenCL对image_size大于设备限制的场景，会改用clBuffer计算

lnmdlong avatar Nov 15 '21 06:11 lnmdlong

不好意思，模型是内部的，没办法提供。我想了解一下以下问题： 1.我需要做什么额外操作吗？还是代码自动会用buffer计算？ 2.是整个模型用buffer还是超出size的那几层用buffer？ 感谢您的回复

发自我的iPhone

在 2021年11月15日，下午2:28，lnmdlong @.***> 写道：

 是否方便提供一下模型，目前TNN OpenCL对image_size大于设备限制的场景，会改用clBuffer计算

— You are receiving this because you authored the thread. Reply to this email directly, view it on GitHub, or unsubscribe. Triage notifications on the go with GitHub Mobile for iOS or Android.

miaott1234 avatar Nov 15 '21 13:11 miaott1234

不好意思，模型是内部的，没办法提供。我想了解一下以下问题： 1.我需要做什么额外操作吗？还是代码自动会用buffer计算？ 2.是整个模型用buffer还是超出size的那几层用buffer？ 感谢您的回复 发自我的iPhone …

  1. 不需要做额外的操作，代码会自动用buffer
  2. 超出size限制的那几层使用buffer，其他的层不会受影响

目前不是所有的算子都支持buffer，所以需要具体看下是哪个op

lnmdlong avatar Dec 13 '21 10:12 lnmdlong