YOLOv5-Lite icon indicating copy to clipboard operation
YOLOv5-Lite copied to clipboard

转tensorrt 报错

Open woshituobaye opened this issue 4 years ago • 19 comments

大佬 用你的生成权重文件生成了模型权重v5Lite-s-best.wts 然后放到tensorrtx /yolov5 里 去生成engine 文件。结果报错

sudo ./yolov5 -s v5Lite-s-best.wts v5Lite-s-best.engine s Loading weights: v5Lite-s-best.wts [10/25/2021-10:12:43] [E] [TRT] Parameter check failed at: ../builder/Network.cpp::addScale::482, condition: shift.count > 0 ? (shift.values != nullptr) : (shift.values == nullptr) yolov5: /home/nxin/download/tensorrtx-jetson/yolov5/common.hpp:155: nvinfer1::IScaleLayer* addBatchNorm2d(nvinfer1::INetworkDefinition*, std::map<std::__cxx11::basic_string, nvinfer1::Weights>&, nvinfer1::ITensor&, std::__cxx11::string, float): Assertion `scale_1' failed. Aborted

woshituobaye avatar Oct 25 '21 02:10 woshituobaye

我看看,晚点给你反馈

ppogg avatar Oct 25 '21 02:10 ppogg

sudo ./yolov5 -s v5Lite-g.wts v5Lite-g.engine s Loading weights: v5Lite-g.wts [10/25/2021-10:55:33] [E] [TRT] Parameter check failed at: ../builder/Network.cpp::addScale::482, condition: shift.count > 0 ? (shift.values != nullptr) : (shift.values == nullptr) yolov5: /home/nxin/download/tensorrtx-jetson/yolov5/common.hpp:155: nvinfer1::IScaleLayer* addBatchNorm2d(nvinfer1::INetworkDefinition*, std::map<std::__cxx11::basic_string, nvinfer1::Weights>&, nvinfer1::ITensor&, std::__cxx11::string, float): Assertion `scale_1' failed. Aborted 用v5Lite-g.wst 也报错

woshituobaye avatar Oct 25 '21 02:10 woshituobaye

能否将你wts转engine文件的脚本用链接发一下给我?

ppogg avatar Oct 25 '21 03:10 ppogg

就是 tensortx /yolo5 里面的文件 把权重文件放到build里面然后sudo ./yolov5 -s v5Lite-g.wts v5Lite-g.engine s
https://github.com/wang-xinyu/tensorrtx/tree/master/yolov5

woshituobaye avatar Oct 25 '21 04:10 woshituobaye

是的,那我了解了,因为v5lite-g的head和yolov5s有些许不同,所以才会导致报错: image 近期会找个时间把转化为engine文件的脚本上传

ppogg avatar Oct 25 '21 04:10 ppogg

请问 v5lite-g v5lite-s v5lite-c 都可以转tensorrt 后在arm gpu上跑吗?

woshituobaye avatar Oct 25 '21 04:10 woshituobaye

arm gpu??类似哪种开发板?

ppogg avatar Oct 25 '21 06:10 ppogg

jetson nano

woshituobaye avatar Oct 25 '21 08:10 woshituobaye

arm gpu??类似哪种开发板?

请问作者,v5lite-g转tensorrt后可以在华为的Atlas200上运行吗?Atlas200是ARM NPU

我们用v5lite-g转tensorrt生成.wts文件,再生成引擎的时候也出现了同样的问题:../builder/Network.cpp::addScale::482, condition: shift.count > 0 ? (shift.values != nullptr) : (shift.values == nullptr)

hjm0613 avatar Oct 25 '21 08:10 hjm0613

arm gpu??类似哪种开发板?

请问作者,v5lite-g转tensorrt后可以在华为的Atlas200上运行吗?Atlas200是ARM NPU

我们用v5lite-g转tensorrt生成.wts文件,再生成引擎的时候也出现了同样的问题:../builder/Network.cpp::addScale::482, condition: shift.count > 0 ? (shift.values != nullptr) : (shift.values == nullptr)

嗯嗯,想问下你是不是用的楼上那个链接的仓库进行的转化?

ppogg avatar Oct 25 '21 10:10 ppogg

jetson nano

好的,收到,会尽快修复这个问题

ppogg avatar Oct 25 '21 10:10 ppogg

arm gpu??类似哪种开发板?

请问作者,v5lite-g转tensorrt后可以在华为的Atlas200上运行吗?Atlas200是ARM NPU 我们用v5lite-g转tensorrt生成.wts文件,再生成引擎的时候也出现了同样的问题:../builder/Network.cpp::addScale::482, condition: shift.count > 0 ? (shift.values != nullptr) : (shift.values == nullptr)

嗯嗯,想问下你是不是用的楼上那个链接的仓库进行的转化?

是的

hjm0613 avatar Oct 25 '21 11:10 hjm0613

arm gpu??类似哪种开发板?

请问作者,v5lite-g转tensorrt后可以在华为的Atlas200上运行吗?Atlas200是ARM NPU 我们用v5lite-g转tensorrt生成.wts文件,再生成引擎的时候也出现了同样的问题:../builder/Network.cpp::addScale::482, condition: shift.count > 0 ? (shift.values != nullptr) : (shift.values == nullptr)

嗯嗯,想问下你是不是用的楼上那个链接的仓库进行的转化?

是的

请问作者,我把楼上链接的仓库的yolov5.cpp文件中build_engine的head部分改为和v5Lite-g.yaml中head部分相同,不过也报了相同的错误,请问这种改法思路对吗?谢谢作者贡献的代码

hjm0613 avatar Oct 25 '21 11:10 hjm0613

arm gpu??类似哪种开发板?

请问作者,v5lite-g转tensorrt后可以在华为的Atlas200上运行吗?Atlas200是ARM NPU 我们用v5lite-g转tensorrt生成.wts文件,再生成引擎的时候也出现了同样的问题:../builder/Network.cpp::addScale::482, condition: shift.count > 0 ? (shift.values != nullptr) : (shift.values == nullptr)

嗯嗯,想问下你是不是用的楼上那个链接的仓库进行的转化?

是的

请问作者,我把楼上链接的仓库的yolov5.cpp文件中build_engine的head部分改为和v5Lite-g.yaml中head部分相同,不过也报了相同的错误,请问这种改法思路对吗?谢谢作者贡献的代码

你加我qq,1138099162

ppogg avatar Oct 26 '21 01:10 ppogg

大佬 我加你QQ了

woshituobaye avatar Nov 04 '21 05:11 woshituobaye

Author

@woshituobaye ** woshituobaye ** commented 24 days ago

请问有成功转成engine吗?

JoeyZhu avatar Nov 28 '21 07:11 JoeyZhu

作者您好,请问使用gen_wts.py生成.wts文件后,tensorrt仓库中的yolov5.cpp脚本如何修改可以生成engine呢?

bjtu-su avatar Aug 09 '22 06:08 bjtu-su

大佬 我加你QQ了

大佬,请问你转化成功了吗?

bjtu-su avatar Aug 09 '22 07:08 bjtu-su

同样的问题,现在有解决吗? 目前2023年了,转tensorrt的python推理, README的链接,还是只有一个pt转wts的脚本。

fire717 avatar Jan 06 '23 07:01 fire717