mnist-multi-gpu icon indicating copy to clipboard operation
mnist-multi-gpu copied to clipboard

带BN层的网络在实现多个GPU并行时的问题

Open flyduck opened this issue 5 years ago • 0 comments

您好, 请问您试过带BN层的网络的多GPU数据并行吗? 我遇到BN层中的均值和方差求导为0导致平均梯度不能求的问题,请问您是如何解决的,谢谢!

flyduck avatar Aug 19 '19 02:08 flyduck