Leedpiaol

分布式训练性能BUG

1

1、python train.py 单卡 训练速度9.0step/s 2、fleetrun train.py 单卡 use_amp = False 训练速度 9.0step/s use_amp=True 训练速度3.9step/s 3、fleetrun train.py 多卡(6卡) use_amp = False 训练速度3.0step/s use_amp=True 训练速度1.8step/s 问题1、使用use_amp后性能下降严重 2、使用fleetrun 分布式训练较单卡性能下降严重，使用3张卡才相当于之前一张卡，没有体现分布式加速训练的效果