二、模型
学习需要一个主体，就像人的学习需要大脑一样。
这个主体本质上是一个可以随着学习不断更新的数据结构，从而实现对学习结果的累积，通常称为"模型"。
模型可以是简单的产生式规则，也可以是贝叶斯网络或神经网络等。
产生式规则类似于"如果天上有云且湿度大，那么会下雨"这样的判断句。这些规则可以通过数据总结得出，并且它们的顺序也可以根据数据观察进行调整。
贝叶斯网络则能够学习变量之间的概率关系，而神经网络则通过调整神经元之间的连接权重来进行学习。
每种模型都有各自的优缺点，没有任何一种模型能够绝对优于另一种，这一结论被称为"没有免费的午餐（No Free Lunch）"定理。
三、算法
算法是用来更新模型的计算程序。
例如，在识别红绿灯的神经网络中，算法用于调整神经元的连接权重，让它能更好地识别红绿灯；在预测股市涨跌的贝叶斯网络中，算法用于调整各个变量之间的概率关系，让它能更准确地反映不同因素对股市价格的影响。
数值优化算法更新模型参数。从一个随机位置开始，像下山一样，从一个随机位置开始，往更好的方向前进一小步，一步步更新。