YOLOX icon indicating copy to clipboard operation
YOLOX copied to clipboard

学习率设置

Open Monday-Leo opened this issue 4 years ago • 7 comments

当我训练自己的数据集时,在本地电脑训练,batch_size设为4,此时应该怎么调整学习率?self.basic_lr_per_img = 0.01/64.0,改成self.basic_lr_per_img = 0.01/4.0精度较差

Monday-Leo avatar Dec 02 '21 03:12 Monday-Leo

Maybe you should try 0.01 / 64 * 4

FateScript avatar Dec 02 '21 03:12 FateScript

Maybe you should try 0.01 / 64 * 4

您好,我是在colab上训练自己的数据,batch_size设为64,这次将学习率改为 self.basic_lr_per_img = 0.01 / 64 * 4 之后训练时发现mAP为0。想请教一下哪里出了问题 train_log(1).txt

JiaPai12138 avatar Dec 14 '21 19:12 JiaPai12138

@Monday-Leo @JiaPai12138 请问您们的问题解决了吗? 我有有疑惑,我现在8卡 每张卡64张 那就是 -b 64*8 但是self.basic_lr_per_img 应该怎么计算呢? 期望回复。。

IamMegatron2025 avatar Sep 15 '22 09:09 IamMegatron2025

@Monday-Leo @JiaPai12138 请问您们的问题解决了吗? 我有有疑惑,我现在8卡 每张卡64张 那就是 -b 64*8 但是self.basic_lr_per_img 应该怎么计算呢? 期望回复。。

基数是0.01, 后面处以你卡的总数(64*8你厉害) 我之前是nano模型mixup开了所以为0 请问你是什么模型呢?其他参数你改了什么么

JiaPai12138 avatar Sep 17 '22 15:09 JiaPai12138

@JiaPai12138 感谢您的回复。 后面处以我卡的总数? 我怎么没有明白呢。。。 我卡总数就是8张啊,难道要除以8?

IamMegatron2025 avatar Sep 18 '22 15:09 IamMegatron2025

@JiaPai12138 感谢您的回复。 后面处以我卡的总数? 我怎么没有明白呢。。。 我卡总数就是8张啊,难道要除以8?

你是多卡训练嘛。我之前讲错了 image 现在baseline是64, 你要设置为64*8的话学习率该是baaseline (0.01/64)*8

JiaPai12138 avatar Sep 20 '22 13:09 JiaPai12138