Skip to content

Deep Learning

缩写#

Abbr. Meaning alias
ARC Abstraction and Reasoning Challenge
BN Batch Normalize BatchNorm
NN Neural Network

20200803#

说说对 BN 的理解#

  1. How to Batch Normalize? 引用

我的理解是 BatchNorm 可以让少进行很多次训练。如果不做 BN，神经网络实际上在第一层的权重上还是会自己加上 BN，否则最后的结果会因为数据的不同数值范围产生错误。既然这是一个已经明显需要做，而且对人类来说很简单的预处理步骤，就不需要让 NN 来计算了。

  • 看不懂符号意义

图像的数据增强有哪些方法#

我只知道用卷积。这是对图像局部处理。

反转/旋转/缩放/裁剪/位移/加噪声 参考

这些也算是 Data Augmentation?

如何解决过拟合#

多跑几次/增大数据样本数量，丰富样本库

激活函数的作用#

减少噪音（我觉得可以）

激活函数是用来加入非线性因素的，因为线性模型的表达能力不够。来源

问题#

[#问题] 在 ARC 中，机器需要识别的是“人能解答的问题”。 如此为什么不将“人能发现的规律”作为一个集合，然后对问题中的图像分类，模仿人对这个规律的解释。CIFRA-10中的分类，也要将图片分为人认为的“猫”，“飞机”等种类。