YOSHIKII666

Results 1 comments of YOSHIKII666

yolov7在训练的时候是混合精度训练,测试或者验证的时候用的是半精度推理,生成位置掩码position那个变量在验证的时候是float32的,此时卷积权重是float16的,你position转成float16就好了。另外pytorch里面nn.conv是可以兼容float32和float16的,但是yolo里test.py里面写了model=model.half(),这个时候就只能算输入为float16的tensor。 最后说一下这个模块加到yolov7里面效果一般,计算量挺大的,推理速度有点慢。