cvsod

多个模型串行推理时如何传递数据

5

在用opencl推理时，有两个数据传递的问题想请教一下： （1）如果模型a的输出是模型b的输入，我现在是把模型a的输出copyToHostTensor，模型b的输入再copyFromHostTensor， 这样数据传递有点慢，有更加直接在opencl上传递的方法吗？ （2）我用opencl写了一段特征处理的代码，想嵌入到mnn推理的过程中，cl_mem和mnn Tensor(opencl后端)之间如何不通过host传递数据？ 非常感谢！

code of a sequence of operations ` with torch.no_grad(): # proj = torch.matmul(src_proj, torch.inverse(ref_proj)) proj = torch.matmul(pose, invK) proj = torch.matmul(K, proj) rot = proj[:, :3, :3] # [B,3,3] trans...