2026.05.12
这几天开始看《人工智能-现代方法》，做一些知识记录。
1、学习的概念：归纳和演绎。（19章）
演绎靠逻辑推理，归纳靠经验总结。所以在前提正确的情况下，演绎的结论必然正确。归纳的结论则有可能出现错误。
进一步思考AI学习的底层，有两条路线：
一条是通过教会AI逻辑，让AI通过逻辑和现有信息推理，这种方式可以创造出原来没有的知识。（第7章-第9章）
一条是通过大量的样本训练AI，给它更多经验，更接近归纳。
现在机器学习发展最快的主要领域是深度学习，神经网络，更接近归纳的原理。现代AI是概率的产物，深度学习为什么有效，也没有一个严格的逻辑理论可以解释。概率之外也有逻辑：不违反公理。（12章-15章）
2、公理：一条语句是直接给出的，而不是从其他语句推导而来的，称为公理。（第7章）
3、三种类型的学习（根据训练过程能否得到反馈（feedback）来分）：（19章）
监督学习（supervised learning）: 训练数据包含输入和输出（标准答案），从中学习输入到输出的函数映射。再细分输出是一个有限集合中的某个值，称为分类；输出是一个数值时（数值的取值范围无限），称为回归。监督学习中的输出也叫标签（label）.
无监督学习（unsupervised learning）：从没有任何显式反馈的输入中学习模式（训练样例没有标准输出，没有反馈）。最常见的是聚类。
强化学习(reinforcement learning RL)：智能体从一系列的强化（奖励与惩罚）中学习。
4、监督学习中输入输出的函数映射关系 h 称为关于世界的假设（hypothesis），也可以说是一个模型，或者函数。目标是找到一个一致性假设，或者最佳拟合函数。（19章）
h对于训练集之外的数据，能准确预测输出，称h具有良好的泛化（generalize）能力。
一个好的假设兼顾一致性和泛化能力。
5、对应好的假设的两个能力，有两个概念，偏差（bias）和方差（variance）。偏差好理解，预测的值偏离期望值的偏差情况。方差则是指有训练数据波动导致假设的变化量。（训练数据稍微变化或增加，假设（即函数映射）的变化极大，这种情况方差大，对未知数据的预测情况差，泛化能力差，称为过拟合（overfitting））
存在偏差-方差权衡（tradeoff）：在更复杂、低偏差的能较好拟合训练集的假设与更简单、低方差的可能泛化得更好的假设中做出选择。爱因斯坦说过：任何理论的终极目标都是尽可能让不可削减的基本元素变得更加简单且更少。奥卡姆剃刀原则（Ockham's razor）：如无必要，勿增实体。（19章）
6、表示状态和状态转移的三种方法：（第2章）
原子表示： 每一个状态都是不可分割的，没有内部结构。搜索和博弈的基本算法、隐马尔可夫模型、马尔可夫决策过程都基于原子表示。
因子化表示：将每个状态拆分为一组固定的变量或属性。约束满足算法、命题逻辑、规划、贝叶斯网络还有各种机器学习算法都基于因子化表示。
结构化表示：包括对象及其各种不同的关系。可以有自己的属性，还有与其他对象的关系。
三种方法的表达性（expressiveness）逐步增强，表达性更强的语言更简洁，可以通过简洁的描述捕捉到更具表达性的表示。一两页结构化表示语言，需要数千页因子化表示语言来描述。（HTML比普通文本能够表达的信息量更大）
7、人工智能的定义是，使机器（智能体）在不需要显式编程的情况下能够自主学习。
按照这个定义，显式编程的逻辑就不成立了。通过概率论和逻辑推理是两个合理的方向。概率论就像人有大量经验信息之后的总结，对未来的判断。逻辑推理就像灵感，创造已有信息之外的东西。
今天就先记录到这里。记录得太过详细，可以只记录主要信息，还有一点自己的理解。
按自己感兴趣的篇章阅读，比如感兴趣的深度学习，然后读到什么关联概念再跳到对应章节补充知识。首次尝试这种阅读方法，读起来会积极一点，跟着自己的思路，带着思考走，比较有效。
真的翻开一本书去阅读，和用豆包学习还是不同的。豆包根据你问的问题找最相关的内容，能根据你的提问逐步深入到一个概念。但是它没法自己扩散到整个体系框架。你原来不知道的概念，也还是不会了解到。而书籍则是做到一整个领域全面地介绍，会有很多你原来不知道的东西，然后参考文献之类的，或者具体概念再找AI深入了解一下。正好是互补的。
小红书的长文只能转为图片，无法记录文字长文，所以只能再把文字贴到其他地方，贴到CSDN。