tensorRT_Pro icon indicating copy to clipboard operation
tensorRT_Pro copied to clipboard

simple_yolo中的compile转换带nms的yolov7_tiny.onnx, 失败!

Open xinsuinizhuan opened this issue 3 years ago • 1 comments

使用如下命令生成带nms的yolov7_tiny版本onnx: python export.py --weights yolov7-tiny.pt --grid --end2end --simplify --topk-all 100 --iou-thres 0.65 --conf-thres 0.35 --img-size 640 640 --max-wh 640 然后使用simple_yolo中的compile转换onnx成tensorrt, 转换的时候: output shape is 100x7 图片 转换完加载模型的时候,反序列化时, output is 1x7 图片

xinsuinizhuan avatar Aug 01 '22 15:08 xinsuinizhuan

因为他第一个维度是batch,你应该让第一个维度始终是batch

shouxieai avatar Aug 09 '22 03:08 shouxieai