李沐动手学习深度学习——3.7练习

尝试调整超参数，例如批量大小、迭代周期数和学习率，并查看结果。

1. num_epochs = 10， batch_size = 256， lr = 0.1情况下
   

2. num_epochs = 5， batch_size = 256， lr = 0.1情况下
   

   可以尝试一下，三种参数变化，会发现lr变小，需要的训练次数num_epochs增加，batch_size变小。

增加迭代周期的数量。为什么测试精度会在一段时间后降低？我们怎么解决这个问题？

因为过拟合问题，模型过于拟合训练集数据了，应对测试集与训练集存在一些不同的数据识别不出来。

1. 降低num_epochs
2. 数据增强，对于输入数据加一点噪声
3. 降低模型复杂度，减少神经元