deeplearning-cv-notes issues

神经网络中 add 和 concatenate 融合方式区别？

1、[如何理解神经网络中通过add的方式融合特征？ - 知乎](https://www.zhihu.com/question/306213462) 回答节选： 1. 如何理解神经网络中通过add的方式融合特征？ - Hengkai Guo的回答 - 知乎 https://www.zhihu.com/question/306213462/answer/562776112 2. 如何理解神经网络中通过add的方式融合特征？ - Hanjie WU的回答 - 知乎 https://www.zhihu.com/question/306213462/answer/760147233 **来自 2.** add操作经典代表网络是ResNet,concate操作经典代表网络是Inception系统网络中的Inception结构和DenseNet。正如之前的回答有人说的，add操作相当于加入一种先验知识。我觉得也就是相当于你对原始特征进行人为的特征融合。而你选择的特征处理的操作是element-wise add。通过add操作，会得到新的特征，这个新的特征可以反映原始特征的一些特性，但是原始特征的一些信息也会在这个过程中损失。但是concate就是将原始特征直接拼接，让网络去学习，应该如何融合特征，这个过程中信息不会损失。所以我认为add其实只是concate的一种特殊情况。但是concate带来的计算量较大，在明确原始特征的关系可以使用add操作融合的话，使用add操作可以节省计算代价。作者：Hanjie WU 链接：https://www.zhihu.com/question/306213462/answer/760147233...

jayboxyz

CNN-卷积神经网络

全连接层（FC）和全局平均池化（Global Average Pooling，GAP）

1

论文:《Network in Network》概述： > 此论文是2014年的一篇比较厉害的paper，该论文改进了传统的cnn网络使得网络模型参数很少，也为后续的Googlenet和resnet以及目标检测网络中提出的全卷积共享提供了一个很好的开端，小菜也是在学习主流的深层网络模型的论文时发现许多论文中都有提到NIN这篇论文，所以专门挑了时间看了这篇论文，觉得这篇论文的确不错，论文中的网络整体架构如下图所示。论文的创新点： - 提出了抽象能力更高的Mlpconv层 - **提出了Global Average Pooling（全局平均池化）层** —— From：https://blog.csdn.net/infinita_lv/article/details/89288419

jayboxyz

CNN-卷积神经网络

为什么 CNN's conv bias 设为 False，如 ResNet、SEnet等

参考：https://github.com/kuangliu/pytorch-cifar/issues/52 Any channel bias added would only affect the channel mean. Since BatchNorm2d is applied after Conv2d and will remove the channel mean, there's no point of adding bias to...

jayboxyz

CNN-卷积神经网络

【CNN】对 CNN 的一些理解和思考

- [CNN是怎么学到图片内的绝对位置信息的? - 知乎](https://zhuanlan.zhihu.com/p/99766566)

jayboxyz

CNN-卷积神经网络

【点云分割】三维点云分割

- [深度学习算法的点云分割-Pointnet++（一）_tumi678的博客-CSDN博客](https://blog.csdn.net/tumi678/article/details/80539075)

jayboxyz

图像分割

Python图像处理库

基于python脚本语言开发的数字图片处理包，比如PIL,Pillow, opencv, scikit-image等。 - PIL和Pillow只提供最基础的数字图像处理，功能有限； - opencv实际上是一个c++库，只是提供了python接口，更新速度非常慢。 - scikit-image是基于scipy的一款图像处理包，它将图片作为numpy数组进行处理，正好与matlab一样，因此，我们最终选择scikit-image进行数字图像处理。 **Image读出来的是PIL的类型，而skimage.io读出来的数据是numpy格式的** ``` python import Image as img import os from matplotlib import pyplot as plot from skimage import io,transform #Image和skimage读图片 img_file1...

jayboxyz

Python&常用库