【跟马少平老师学AI】-【神经网络是怎么实现的】（六）过拟合问题

一句话归纳：
1）过拟合问题：

• 图中的点为样本
• 直线欠拟合
• 曲线2过拟合

2）迭代次数与拟合情况：

• 训练次数过多可能导致过拟合。

3）正则化项法弱化过拟后问题：

• 加正则项，在最小化损失函数时抑制了个别参数影响过大导致的过拟合。

4）舍弃法弱化过拟合：

• 通过训练多个简化的神经网络（丢弃部分参数）弱化过拟合。
• 又保持使用过所有神经元。

5）数据增强法：

• 训练数据足够多（样本多样性）。
• 通过旋转、截取、缩放等方法获取数据。