YOLOv3-Torch2TRT icon indicating copy to clipboard operation
YOLOv3-Torch2TRT copied to clipboard

Tensorrt版本

Open xxd1999 opened this issue 5 years ago • 10 comments

您好,请问您用的是tensorrtt5还是6

xxd1999 avatar Dec 05 '19 13:12 xxd1999

System: Ubuntu 16.04 torch version: 1.4 (source code install) conda python envs: 3.6.9 cuda version: 10.0.130 protobuf version: 3.11 tensorrt version: 5.1.0.5

DocF avatar Dec 05 '19 13:12 DocF

非常感谢。请问您在nano或者tx2上试过吗

xxd1999 avatar Dec 05 '19 13:12 xxd1999

还没尝试,之后打算xavier上试下,TX2这类前一代产品不支持半精度运算,在上面跑半精度模型提速非常有限。

DocF avatar Dec 05 '19 16:12 DocF

您好,官网的torch2trt安装命令我只把第四句的sudo去掉了,因为要装在自己的环境中: sudo apt-get install libprotobuf* protobuf-compiler ninja-build git clone https://github.com/NVIDIA-AI-IOT/torch2trt cd torch2trt python setup.py install --plugins 您好,请问在安装torch2trt的时候,您也是直接安装在自己创建的conda环境中吗,我在用python setup.py install --plugins以后显示成功,但是在check.py的时候会显示: File "/home/xxd/anaconda3/envs/trt/lib/python3.7/site-packages/torch2trt/converters/interpolate/interpolate.py", line 11, in get_interpolate_plugin creator = [c for c in registry.plugin_creator_list if c.name == PLUGIN_NAME and c.plugin_namespace == 'torch2trt'][0] IndexError: list index out of range 能帮忙看一下吗

xxd1999 avatar Dec 06 '19 03:12 xxd1999

你可以查看一下这个torch2trt下面这个issue #166,这是我之前碰到和你一样问题的参考方法。

DocF avatar Dec 06 '19 04:12 DocF

您好,很感谢您的回答。我查看了您提供的链接内容,没能够看懂,请问能简单介绍具体您当时的解决方案吗,不胜感激

xxd1999 avatar Dec 07 '19 11:12 xxd1999

a) method one(If you install pytorch by pip or conda) Lower down your gcc and g++ version from 5 to 4.8.(As the change about the ABI issue) build the protobuf > 3.0 build the plugin with flag -D_GLIBCXX_USE_CXX11_ABI=1 b) Method two Build pytorch from source with gcc > 4.8 build the protobuf > 3.0 build the plugin without flag -D_GLIBCXX_USE_CXX11_ABI=1

DocF avatar Dec 09 '19 01:12 DocF

@DocF 我按照第一套方案降了gcc,g++,然后自己build了protocbuf,编译没出错,,测试还是不行: python3 -m torch2trt.test --name=interpolat 还是没warning,erro,也啥都没返回 用check.py跑还是提示 warning: Encountered known unsupported method torch.nn.functional.interpolate 您这边有什么建议么,,或者有做好的docker镜像可以share一下么,非常感谢

LossNAN avatar Mar 19 '20 09:03 LossNAN

@xxd1999 请问你解决了吗。。。

Stephenfang51 avatar Apr 02 '20 07:04 Stephenfang51

@DocF 我按照第一套方案降了gcc,g++,然后自己build了protocbuf,编译没出错,,测试还是不行: python3 -m torch2trt.test --name=interpolat 还是没warning,erro,也啥都没返回 用check.py跑还是提示 warning: Encountered known unsupported method torch.nn.functional.interpolate 您这边有什么建议么,,或者有做好的docker镜像可以share一下么,非常感谢

請問您解決了麼?

Byronnar avatar May 07 '20 09:05 Byronnar