YOLOv3-Torch2TRT
YOLOv3-Torch2TRT copied to clipboard
Tensorrt版本
您好,请问您用的是tensorrtt5还是6
System: Ubuntu 16.04 torch version: 1.4 (source code install) conda python envs: 3.6.9 cuda version: 10.0.130 protobuf version: 3.11 tensorrt version: 5.1.0.5
非常感谢。请问您在nano或者tx2上试过吗
还没尝试,之后打算xavier上试下,TX2这类前一代产品不支持半精度运算,在上面跑半精度模型提速非常有限。
您好,官网的torch2trt安装命令我只把第四句的sudo去掉了,因为要装在自己的环境中: sudo apt-get install libprotobuf* protobuf-compiler ninja-build git clone https://github.com/NVIDIA-AI-IOT/torch2trt cd torch2trt python setup.py install --plugins 您好,请问在安装torch2trt的时候,您也是直接安装在自己创建的conda环境中吗,我在用python setup.py install --plugins以后显示成功,但是在check.py的时候会显示: File "/home/xxd/anaconda3/envs/trt/lib/python3.7/site-packages/torch2trt/converters/interpolate/interpolate.py", line 11, in get_interpolate_plugin creator = [c for c in registry.plugin_creator_list if c.name == PLUGIN_NAME and c.plugin_namespace == 'torch2trt'][0] IndexError: list index out of range 能帮忙看一下吗
你可以查看一下这个torch2trt下面这个issue #166,这是我之前碰到和你一样问题的参考方法。
您好,很感谢您的回答。我查看了您提供的链接内容,没能够看懂,请问能简单介绍具体您当时的解决方案吗,不胜感激
a) method one(If you install pytorch by pip or conda) Lower down your gcc and g++ version from 5 to 4.8.(As the change about the ABI issue) build the protobuf > 3.0 build the plugin with flag -D_GLIBCXX_USE_CXX11_ABI=1 b) Method two Build pytorch from source with gcc > 4.8 build the protobuf > 3.0 build the plugin without flag -D_GLIBCXX_USE_CXX11_ABI=1
@DocF 我按照第一套方案降了gcc,g++,然后自己build了protocbuf,编译没出错,,测试还是不行:
python3 -m torch2trt.test --name=interpolat
还是没warning,erro,也啥都没返回
用check.py跑还是提示
warning: Encountered known unsupported method torch.nn.functional.interpolate
您这边有什么建议么,,或者有做好的docker镜像可以share一下么,非常感谢
@xxd1999 请问你解决了吗。。。
@DocF 我按照第一套方案降了gcc,g++,然后自己build了protocbuf,编译没出错,,测试还是不行:
python3 -m torch2trt.test --name=interpolat
还是没warning,erro,也啥都没返回 用check.py跑还是提示warning: Encountered known unsupported method torch.nn.functional.interpolate
您这边有什么建议么,,或者有做好的docker镜像可以share一下么,非常感谢
請問您解決了麼?