证明:δjL=∂C∂ajLσ′(zjL)\delta^L_j = \frac{\partial C}{\partial a^L_j} \sigma'(z^L_j)δjL=∂ajL∂Cσ′(zjL)
等式(1)得证
证明:δl=((wl+1)Tδl+1)⊙σ′(zl)\delta^l = ((w^{l+1})^T \delta^{l+1}) \odot \sigma'(z^l)δl=((wl+1)Tδl+1)⊙σ′(zl)
等式二得证
公式(45)说明:
证明:∂C∂bjl=δjl\frac{\partial C}{\partial b^l_j} = \delta^l_j∂bjl∂C=δjl
本章在4个等式的形式和证明过程中,下标有些混乱,给理解公式带来障碍,这里把下标的含义重新申请一下: j:当前层的神经元的下标 k:下一层神经元的下标 i:上一层神经元的下标
书上已经写给了zkl+1z^{l+1}_kzkl+1与wkjl+1w^{l+1}_{kj}wkjl+1、bkl+1b^{l+1}_kbkl+1的关系为:
同理可写出zjlz^{l}_jzjl与wjilw^{l}_{ji}wjil、bjlb^{l}_jbjl的关系为:
等式三得证
证明:∂C∂wjkl=akl−1δjl\frac{\partial C}{\partial w^l_{jk}} = a^{l-1}_k \delta^l_j∂wjkl∂C=akl−1δjl
根据等式三中关于下标的定义,等式四应调整为:
Last updated 5 years ago