【学习笔记】天元西南中心的线上课程《理解神经网络》

机器学习介绍

introduction machine learning

deep learning

statistics vs. machine learning

区别：是否存在模型依赖；模型实质由参数组成。

statistics: model based

用训练数据来构建模型，是为了获取模型的参数，参数就是模型本身

Gauss-Markov theorem

machine learning: modef free

用数据来训练，模型是基于数据产生的。

暴力美学、数据驱动、误差最小

generalization

supervised learning

unsupervised learning

reinforcement learning

notation is important

GD for neural networks

back propagation

main issue

failure

维度灾难 ------ 蒙特卡洛方法