什么是机器学习?----本质就是寻找一个函数。

可以训练什么样的函数呢?

可以训练一个回归的函数,也可以训练一个分类的函数。

这个例子的需要分类的类别是19*19的选项。
在机器学习领域里面不止回归和分类。

举例:预测函数

利用已存在的数据,预测未来几天的数据。
这个函数的参数如何定义?

b和w是未知参数,x是输入,y是输出。
如何定义一个loss?

每一天的误差都可以加起来生成的L就代表了损失。

计算每一天的损失时所用的公式是多样的 :


红色系---大 蓝色系---小
优化器

根据斜率来调整w的大小。
如何调整w的变化步长呢?

除了关于当前的斜率外还和自己设置的学习率相关。

局部最优问题!




可以看出7天一个周期



红色曲线可以使用3个函数合并而成




利用矩阵相乘的方法来简写:



回到上面提到的三步:

Loss计算方式保持不变。

优化器保持不变


训练数据


所有的batch训练完称为epoch
参数更新的次数和设置的batchsize大小有关。
另一个激活函数

实验结果:

再次更改模型

实验结果


好听的名字:神经网络

问题:如果足够多的层次效果就会好?

这种问题是由于过拟合产生的问题。