人工智能包括机器学习包括深度学习,深度学习就是神经网络模型
机器学习就是将万事万物转化为"数"的格式,并且在其中找到"模式/规律"
机器学习:就是通过算法使得机器能从大量数据中学习规律从而对新的样本做决策

机器学习三要素:
1,模型:模式函数是机器自己学习,但是需要人类提前提供信息,例如这是线性还是非线性,是二次函数还是指数函数
2,学习准则:误差最小化
3,优化:梯度下降方法
回归问题:x-》y的对应关系问题
分类问题:
聚类问题:没有yi,没有标注,属于无监督模型
深度学习:是机器学习的分支,是一种以人工神经网络为架构,对资料进行表征学习的算法
损失函数:损失函数越大说明模型越坏。所谓优化就是通过改变模型参数,从而降低损失函数

为什么用平方不用绝对值?优化过程需要求导,但是绝对值拥有不可导解
学习准则

期望风险不等于经验风险,但是由于期望风险未知,只能用经验风险预测
如何将机器学习问题转化为最优化问题?因为计算公式是一个函数,只要找到最佳参数将风险函数变为最小
在解决这些问题时为什么不人工数学计算解决?

梯度下降法:

梯度下降法找到一个相对比较优秀的解


超参数是什么?
模型超参数一般是指:必须手动指定模型参数,超参数的选择对模型的性能有很大的影响,参数与超参数的区别在于,参数是模型自己学习出来的,而超参数是需要手动调节的,所以学习率/超参数的大小需要控制好

过拟合:

期望风险是通过真实值的预测,而经验风险是基于训练集上的预测