深度学习公式推导：从神经元出发

在谈深度学习中的神经网络之前，先从生物学的神经元开始说起。

大脑里面有很多神经元，这些神经元形成了一个网络。网络中的神经元会互相传递信号，神经元在传递信号的同时也会从其他神经元接受传递过来的信号。

当接受信号的时候，神经元会计算，如果信号的和不超过某个固定大小的值（阈值），则神经元不做出任何反应。

如果信号量传递的总和超过某个固定大小的值（阈值），则神经元做出反应，这个反应称为点火，同时会向其他的神经元传递固定强度的信号。

如图所示，中间的神经元 A，在接受到左边三个神经元不同程度的信号时，会不断积累能量，当这个能量总和超过自身设置的阀值的时候，就会点火，并且发射信号给右边的神经元。

说白了当神经元接受到足够多的信号量的时候，才作出反应，信号量不多它就当没有事情发生。这就好像我们踢皮球，力气不够（信号量不够），皮球踢不动，当力气足够了皮球就会滚动，这个皮球的滚动会碰撞到其他的皮球，其他的皮球在受到足够力量的碰撞以后也会跟着滚动。当然每个皮球滚动产生的力量不一样，对其他皮球影响也会比一样，这也就是每个信号对应的权重是不一样的。

大家可以想象大脑中的神经元就通过不断地传递信号，互相激活，从而让神经元网络不断成长。

将神经元的工作在数学上抽象化，并以其为单位人工地形成网络，这样的人工网络就是神经网络。将构成大脑的神经元的集合体抽象为数学模型，这就是神经网络的出发点。