pytorch-handbook icon indicating copy to clipboard operation
pytorch-handbook copied to clipboard

关于 2.4.1 为什么要用卷积神经网络 参数个数问题

Open zilijing opened this issue 4 years ago • 1 comments

对于计算机视觉来说,每一个图像是由一个个像素点构成,每个像素点有三个通道,分别代表RGB三种颜色(不计算透明度),我们以手写识别的数据你MNIST举例,每个图像的是一个长宽均为28,channel为1的单色图像,如果使用全连接的网络结构,即,网络中的神经与相邻层上的每个神经元均连接,那就意味着我们的网络有28 28 =784个神经元(RGB3色的话还要3),hidden层如果使用了15个神经元,需要的参数个数(w和b)就有:28 28 15 * 10 + 15 + 10=117625个,这个数量级到现在为止也是一个很恐怖的数量级,一次反向传播计算量都是巨大的,这还展示一个单色的28像素大小的图片,如果我们使用更大的像素,计算量可想而知。

需要参数的个数28 28 15 * 10 + 15 + 10=117625,这个是怎么算的,为什么要乘以10,不应该是282815+15*10吗

zilijing avatar Aug 15 '19 10:08 zilijing

这块有点问题,我改下,没写清楚

zergtant avatar Oct 08 '19 13:10 zergtant