线性函数与多层神经元
神经元：
一个神经元（线性的Linear）只能画直线，完成不了以下任务：
那么多个神经元能不能完成？
人类大脑神经与神经元
这样复杂的网络图就可以写成矩阵运算的形式。
串联的神经元似乎只有传递作用，那么一根和多根似乎没有区别，神经网络也是如此，在这样的情况下，无论多少层都只有一层。
要想给激活函数引入非线性元素，激活函数就至关重要了。
激活函数和非线性因素。
1、如果没有激活函数，无论网络多么复杂，最后的输出都是输入的线性组合，而纯粹的线性组合并不能解决更为复杂的问题。
2、引入激活函数之后，由于激活函数都是非线性的，这样就给神经元引入了非线性元素，使得神经网络可以逼近任何非线性函数，这样使得神经网络应用到更多非线性模型中。
可以看到，没有激活函数的神经网络永远是一条直线
深度学习的训练过程
梯度回传：用Loss对前面的所有参数进行求导
