MODNet icon indicating copy to clipboard operation
MODNet copied to clipboard

linux c++ 部署推理时间慢

Open lg920810 opened this issue 3 years ago • 0 comments

hello~ 大神们,我使用pytorch->onnx->tnn模型后,在linux主机上进行的部署测试,外接摄像头实时采集的数据,图像大小为480*640,模型推理的时间为0.66s每张图,请问这个时间正常吗?

我的模型就是用mobilenetv2训练的,没有做任何fp16的量化,也没有删掉所有的没用的输出层。

lg920810 avatar Sep 06 '21 09:09 lg920810