LocalReceptiveField

输入层神经元

在原神经网络中，输入层是28*28个神经元，这些神经元排成28*28行1列 在卷积神经网络中，输入层还是28*28个神经元，但这些神经元排成28行28列

连接

在原神经网络中，输入层每一个神经元与下一层的每一个神经元是完全连接的。 在卷积神经网络中，下一层的一个神经元只与一小个区域的输出神经元连接。这个小区域就称为local receptive field。

最左上角的一个local receptive field对应下一层第一个神经元。 然后local receptive field向右移，对应下一层第二个神经元。 图中的local receptive field只向右移了一个像素。也可以一次移个像素。

local receptive field

在一个local receptive field，每一个连接对应一个weight。 一个local receptive field共用一个b。