liuxy2318
liuxy2318
../rtSafe/safeRuntime.cpp (25) - Cuda Error in allocate: 2 (out of memory) 请问在哪里调batch size
采用yolov-tiny训练BDD100K数据集可以正常训练,但是由于模型太小,最后验证集精度比较低,IoU=0.50:0.95 在0.29-0.30附近,想用大点的模型重新训练。 但是在数据集相同的条件下,换用yolov7l直接损失为nan;换用yolov8l损失一直不下降。 请问我该采用什么策略,才能使用yolov7l或者yolov8l正常训练。 训练环境为GPU mindspore==2.0.0 如果需要调节学习率,请帮忙解释一下下面的学习率参数的意义,以及该如何调节?(以yolov7l为例) optimizer: optimizer: momentum lr_init: 0.01 # initial learning rate (SGD=1E-2, Adam=1E-3) momentum: 0.937 # SGD momentum/Adam beta1 nesterov: True # update gradients with...
训练环境:Ascend910 mindspore2.0.0 报错信息:invalid literal for int() with base 10: '0000f77c-6257be58'  数据格式是coco格式的:   希望可以帮忙解答一下,是哪里的问题?