【动手学大模型】机器何以学习

我是一名大模型算法工程师，在学习大模型的过程中踩过很多坑。为了帮程序员少走弯路，我把自己的经验写成了一本免费电子书《动手学大语言模型》------不堆公式，直接手搓源码，从零实现RNN、Transformer、GPT等经典架构，配了数百张原创插图，代码全部可运行。

本文是其中一个章节的节选，完整版包含更多实战项目和深度内容。

📘 阅读完整版（免费）：https://fasterai.cn/intro.html

从零开始：机器何以学习？

🍋 这是从一杯柠檬水开始的机器学习之旅。通过本次任务，你将学会不借助任何工具从零手动训练一个机器学习模型。

任务背景

你是一名程序员。最近发现，每到夏天，街边的柠檬水摊前总是大排长龙。你不禁想：如果能造一个机器人自动制作柠檬水，不就能开一家24小时无人摊位，带来持续的收入吗？

但关键是如何确定柠檬片和糖的比例------你和机器人都对此一无所知。幸好你的好友小美是城里最受欢迎的柠檬水摊主。她答应担任"柠檬水专家"，帮你训练机器人。

那么，问题来了，如何让机器人学会她制作柠檬水的秘诀呢？

聪明的你很快找到一个方法：

先请小美做一杯完美的柠檬水作为示范。
让机器人随机猜测一个柠檬与糖的配比（可以叫做糖权），并试着做一杯。
将机器人做的柠檬水与小美的进行对比。
如果太甜了就减小一点糖权，如果太酸了就增大一点糖权。
重复上面的步骤，最终就能学到小美制作柠檬水的秘诀了。

你已经掌握了机器学习的基本原理，现在开始你的机器学习之旅吧！

最少必要知识

机器学习的基本流程

任务鸟瞰

模型结构

本次任务是训练一个模型，能够根据柠檬片数量预测糖的用量。模型结构如下：

本次的模型是一个非常简单的回归模型，它只有一个输入（柠檬片数量）、一个参数（糖权）以及一个输出（糖的用量）。

开发一个机器学习模型通常遵循以下四个步骤：准备数据 、模型定义 、模型训练 与模型评估等过程。下文将依此流程组织内容。

环境配置

在开始之前，我们先打印环境的版本号，避免因为环境不同而导致程序不能复现。

安装依赖

python 复制代码

!pip install --upgrade dsxllm

环境版本

python 复制代码

from dsxllm.util import show_version  
  
show_version()

准备数据

小美用 2 片柠檬片和 16 克糖做了一杯好喝的柠檬水。这杯成品既是一次完美的示范，也构成了我们模型的训练数据。

python 复制代码

from dsxllm.util import print_table  
  
# 准备训练数据  
lemon = 2  
sugar = 16  
  
print_table(  
    f"训练数据",    ["柠檬片（输入数据）", "放糖量（结果标签）"],    [[lemon, sugar]])

模型定义

为机器人创建了一个名为 Model 的模型，这个模型只有一个参数 sugar_weight，用于表示每片柠檬片所对应的放糖量，我们把它称为糖权。

Model 的模型的类图如下：

柠檬水模型的代码实现

python 复制代码

import random


class Model:

    def __init__(self):
        # self.sugar_weight = random.uniform(0, 10)
        # ❗️此处为了演示，将初始值固定为1.88，避免每次运行结果不一致
        self.sugar_weight = 1.88
        print(f"🚀 随机初始化的糖权: {self.sugar_weight}")

    # 1️⃣ 计算模型预测值
    def forward(self, lemon):
        return self.sugar_weight * lemon

    # 2️⃣ 计算模型预测和实际值之间的误差
    def loss(self, pred_sugar, real_sugar):
        return pred_sugar - real_sugar

    # 3️⃣ 计算更新参数的方向和步长
    def backward(self, loss):
        if loss > 0:
            # 如果损失值大于0，表示预测值偏大
            return -0.1
        elif loss < 0:
            # 如果损失值小于0，表示预测值偏小
            return 0.1

    # 4️⃣ 更新糖权
    def step(self, step):
        self.sugar_weight += step

其中：

loss() 函数直接使用预测的糖量直接减去真实的糖量，作为误差损失 loss。
backward() 函数根据误差损失，判断参数更新方向，并返回更新步长。
- 当 loss > 0，表示预测值偏大，需要减小参数的值，即更新参数的量为 -0.1。
- 当 loss < 0，表示预测值偏小，需要增大参数的值，即更新参数的量为 0.1。

模型训练

创建一个模型实例，并开始训练。模型训练的目标是让计算机通过数据和对应的答案，从中自动学习到使其成立的规律和模式。

模型训练的过程

模型训练的循环过程分为四步，如下图所示：

初始化模型：创建一个模型实例，并随机初始化参数权重。
模型预测：调用 forward() 根据输入计算模型的预测结果。
性能评价：通过 loss() 计算模型预测值与真实值之间的误差损失，评价模型性能。
权重更新：调用 backward() 根据损失计算参数更新量，使用 step() 更新参数权重。

重复 2～4 步的循环进行训练，直到模型性能满足要求，在训练的过程中可以记录训练日志，用于追踪训练过程。

每完成一次训练循环，我们称之为一个轮次，也就是 epoch。

下面我们对柠檬水模型进行 100 个轮次的训练，查看模型学习的效果。

模型训练的代码实现

python 复制代码

# 训练模型

# 创建模型实例
model = Model()

training_logs = []

# 训练模型
for epoch in range(100):
    # 1. 使用模型进行预测
    pred = model.forward(lemon)
    # 2. 计算模型预测与真实值之间的误差
    loss = model.loss(pred, sugar)
    # 3. 计算参数更新的方向和步长
    step = model.backward(loss)
    # 4. 更新模型的参数
    model.step(step)

    # 记录训练日志，包括更新之后的权重（保留四位小数）
    # 按照表头顺序调整：Epoch, 柠檬片数量, 当前糖权, 预测放糖量, 目标放糖量, 误差, 更新步长, 更新后权重
    if epoch < 5 or epoch > 95 or epoch % 5 == 0:
        training_logs.append([
            epoch,
            lemon,
            round(model.sugar_weight - step, 4),
            round(pred, 4),
            sugar,
            round(loss, 4),
            round(step, 4),
            round(model.sugar_weight, 4)
        ])

# 打印最终参数
print(f"✅ 模型学习到的糖权: {round(model.sugar_weight, 4)}\n")

print_table("📝 训练日志",
            ["Epoch", "柠檬片", "当前的糖权", "预测放糖量", "目标放糖量", "误差", "更新步长", "更新后糖权"],
            training_logs)

从小美的示范中我们可以看到，符合当地口味的最佳糖权是 8.0，这一点模型是不知道的，模型学习的目标就是找到这个隐藏的糖权。

假设我们的模型猜测的最初糖权是 1.88 克，每个训练轮次只让模型更新 0.1 克的糖权。我们来看一下具体的过程：

机器人做的第 1 杯柠檬水，使用的糖权是 1.88 克，放了 3.76 克的糖
经过和小美的示范对比后，发现太酸了，少了 12.24 克的糖，需要加糖
机器人将糖权调大了 0.1 克，现在的糖权从 1.88 克变成了 1.98 克
机器人做了第 2 杯柠檬水，使用的糖权是 1.98 克，放了 3.96 克的糖
经过和小美的示范对比后，发现还是太酸了，少了 12.04 克的糖，需要继续加糖
经过 60 次的反复尝试，机器人的糖权是 7.98，接近小美所使用的 8.0 克。

我们好像什么都没有做，但机器人却从一次一次的试错中真的逐渐学到了小美制作柠檬水的秘诀！

问题似乎解决了，但聪明的你发现了两个小漏洞：

首先，在接近最佳口味时，会错过最佳的糖权，导致要么太甜了一点，要么太酸了一点，机器人总是学习不到最佳的糖权。
其次，机器人每次制作柠檬水，都会消耗一定的成本。机器人经过几十上百次的尝试，消耗大量的成本才能学到小美的秘诀。

那么，怎么让机器人学的又快又好呢？

模型改进

聪明的你马上又想到，我们能不能不让机器人每次都更新固定的糖权，而是让机器人从损失中动态的调整学习的幅度呢？

这里就要引入一个非常重要的概念：学习率。学习率决定了我们每次调整糖权的幅度，我们按照这个比例根据损失动态调整糖权，差距大就调的多一点，差距小就调的少一点。这样既能保证学习效率，又不会因为调整幅度过大而错过最优解。

固定学习步长和使用学习率的对比：

好想法！快来试试吧！

模型的改进：引入学习率

在 step() 中添加学习率参数，使得模型在训练过程中，能够根据损失动态调整参数更新的步长，从而提高学习效率。

python 复制代码

import random


class Model:

    def __init__(self):
        # 随机初始化糖权
        # self.sugar_weight = random.uniform(0, 50)
        self.sugar_weight = 1.88
        print(f"🚀 随机初始化的糖权: {self.sugar_weight}")

    # 1️⃣ 计算模型预测值
    def forward(self, lemon):
        return self.sugar_weight * lemon

    # 2️⃣ 计算模型预测值与真实值之间的误差
    def loss(self, pred_sugar, real_sugar):
        return pred_sugar - real_sugar

    # 3️⃣ 🌟改进点 1 🌟：直接返回误差的值和更新的方向
    def backward(self, loss):
        # 使用负号控制更新的方向：太甜了就减糖，不够甜就加糖
        return -loss

    # 4️⃣ 🌟改进点 2 🌟：引入学习率动态的从损失中进行学习
    def step(self, loss, learning_rate):
        self.sugar_weight += loss * learning_rate

学习的改进：使用学习率动态学习

将学习率设置为10%，使用 loss 的十分之一来动态更新参数，而不是固定更新 0.1。

python 复制代码

# 训练模型

# 创建模型实例
model = Model()

training_logs = []

learning_rate = 0.1

# 训练模型
for epoch in range(100):
    # 1. 计算预测值
    pred = model.forward(lemon)
    # 2. 计算损失
    loss = model.loss(pred, sugar)
    # 3. 计算更新的梯度（方向）
    step = model.backward(loss)
    # 4. 🌟改进点 🌟：引入学习率动态的从损失中进行学习更新参数
    model.step(step, learning_rate)

    # 记录训练日志，包括更新之后的权重（保留四位小数）
    # 按照表头顺序调整：Epoch, 柠檬盘, 当前糖权, 预测放糖量, 目标放糖量, 误差损失, 更新步长, 更新后权重
    if epoch < 5 or epoch > 95 or epoch % 5 == 0:
        training_logs.append([
            epoch,
            lemon,
            round(model.sugar_weight - step, 4),
            round(pred, 4),
            sugar,
            round(loss, 4),
            round(step, 4),
            round(model.sugar_weight, 4)
        ])

# 打印最终参数
print(f"✅ 模型学习到的糖权: {round(model.sugar_weight, 4)}")

print_table("📝 训练日志",
            ["Epoch", "柠檬片", "当前的糖权", "预测放糖量", "目标放糖量", "误差", "更新步长", "更新后糖权"],
            training_logs)

同样，我们的机器人猜测的糖权是 1.88 克，每次让机器人从差距中学习 0.1 比例来更新糖权。

我们来看一下具体过程：

机器人做的第一杯柠檬水，使用的糖权是 1.88 克，放了 3.76 克的糖
经过"撒糖哥"评估后，表示太酸了，少了 12.24 克的糖，需要加糖
机器人学习 0.1 比例的差距，将糖权调大了 1.224 克，现在的糖权是 3.104 克
这次只经过 20 次的尝试，机器人的糖权就达到了 7.9436，速度远远快于前面的学习方式

在第 55 次迭代时，机器人找到了最佳的糖权，这次没有在最佳位置来回的震荡。

太厉害了！我们的机器人彻底学会了小美制作柠檬水的秘诀！

模型评估

训练模型的目的是让模型从过去的数据中"学习"经验，用学到的经验来解决未见过但类似的新问题，这个过程称为模型预测 或模型推理。

我们的机器人已经学会了制作柠檬水的配方，现在就来试试做一些新的柠檬水来评估模型的效果。

python 复制代码

from dsxllm.util import print_regression_predictions  
  
# 使用预训练的模型进行预测未见过的样本  
lemons = [3, 4, 5]  
real_sugars = [24, 32, 40]  
pred_sugars = [model.forward(lemon) for lemon in lemons]  
  
print_regression_predictions(lemons, real_sugars, pred_sugars, "🆕 制作新的柠檬水",                         ["柠檬片", "真实放糖量", "预测放糖量", "预测偏差", "预测精度"])

我们发现，虽然小美只给我们示范了如何使用 2 片柠檬片做柠檬水，但机器人却可以神奇的预测出 3、4、5 片柠檬所放的糖量，真是青出于蓝而胜于蓝，居然能处理从来没见过的新情况，具有非常好的泛化性！

简言之，机器学习就是通过数据驱动的方式，让计算机从经验中"学习"，用学到的经验来解决未见过但类似的新问题。

机器学习的实现可以分成两步：训练和预测，分别对应着归纳和演绎。

归纳是"学"，是从具体到一般的总结。

演绎是"用"，是从一般到具体的应用。

本章小结

本章通过一个简单的"柠檬水模型"，直观地介绍了机器学习的基本流程，这是大家理解人工智能的基础。开发一个机器学习模型通常遵循以下四个步骤：数据准备、模型定义、模型训练与模型评估。模型的训练是一个迭代的过程，通过不断迭代，模型能够逐渐学习到数据中的规律，并用于预测新数据。另外，模型训练过程中，我们引入了学习率，使得模型能够根据误差动态调整学习幅度，从而实现更快速、精确的收敛。

本次任务根据柠檬片数量预测糖的用量，是一个典型单参数的回归任务。任务虽然简单，却能帮我们认识到机器学习的本质，机器学习是一个从具体数据中"归纳"规律，并将规律"演绎"应用于新问题的过程。下一章，我们将以此为基础探索更复杂的任务。