大模型学习笔记:模型工程-AI 到底是怎么"学"的?

一句话总结

模型工程就是搞清楚 AI 有哪几种学习方式、各自适合干什么。公式不用背,理解思路比记公式重要得多------拿到模型先看"设计思路",照着结构图"搭乐高"就行。

打个比方:学做菜不需要背化学方程式,知道"煎要大火快炒、炖要小火慢熬"就够了。AI 模型也一样,知道每种方法的"火候"和"适用场景"比死磕公式有用。


先搞懂:AI 有三大门派

门派 代表方法 一句话干啥的
连接主义 深度学习(监督学习、对比学习) 目前最火,靠大量数据学规律
行为主义 强化学习、PID 控制 靠试错和反馈学,像训狗
符号主义 知识图谱 下节课讲,靠规则和推理

真实系统往往不是只用一种,而是博采众长,混着用效果最好。


核心内容分三块

第一块:监督学习------有答案照着学

最像上学考试:给你习题(X)和标准答案(Y),你学会 X→Y 的规律,遇到新题就能答。

核心思路: 找一个函数 Y = F(X),但真实世界求不出精确解,只能用数据拟合一个近似解

拟合就两步:

  1. 选模型(搭乐高)------比如 Wide&Deep
  2. 调参数------让预测尽量接近标准答案

Wide&Deep 是啥?

不用记公式,记住它是两条腿走路

  • 宽度部分:处理和"是否点击"直接相关的特征,原理和传统逻辑回归一样
  • 深度部分:多层神经网络,挖掘那些看似无关、但组合起来有用的特征
  • 两个融合在一起,各取所长

损失函数是啥?

就是预测和标准答案之间的差距。差距越小,模型越好。常见的有均方误差、交叉熵------不用记公式,知道它是"衡量差距的尺子"就行。

梯度下降是啥?

参数太多,不可能一个个试。梯度下降就是**"投石问路"**:

  1. 随便给个初始参数
  2. 算一下往哪个方向走能让损失变小
  3. 沿着那个方向迈一步
  4. 重复,直到损失降不下来了

模型训练不神秘:选个模型结构 → 定义损失(衡量差距)→ 梯度下降(一步步调参)。


第二块:对比学习------没答案,学"谁和谁近"

不需要标准答案,只需要知道两个东西像不像。之前讲的 Word2Vec 就是这个路子。

核心思路: 把东西都映射到空间里,相似的东西放得近,不相似的放得远

DeepWalk:怎么算用户和商品的距离?

思路很巧妙,分三步:

  1. 画图:用户和商品是节点,点击/购买是边,边的权重是交互频率
  2. 随机游走:在图上随机跳来跳去,生成一条条"路径"(比如 用户A→商品1→用户B→商品3)
  3. 丢给 Word2Vec:把路径当句子,用户和商品当"词",学出每个节点的空间坐标(Embedding)

这样就能算任意用户和商品之间的距离了,距离近的就可以召回。

这种"把复杂问题拆成简单问题"是权宜之计,最终会发展成端到端模型(下节课讲 GraphSAGE)。

重点记住:对比学习是大语言模型的核心方法。


第三块:强化学习 / PID------靠试错和反馈学

行为主义派的思路:感知 → 行动 → 看结果 → 调整,没有标准答案,只有奖励信号。像训狗:做对了给零食,做错了批评,慢慢就学会了。

PID 控制器:老派但好用

由三部分组成,记住口诀就行:

部分 干啥的 大白话
比例(P) 现在偏差多大,就纠多大 差多少补多少
积分(I) 偏差积累久了,加大纠正力度 老不达标就下狠手
微分(D) 偏差正在快速变大,提前压住 苗头不对赶紧刹车

用在哪? 短视频控流------每个视频 24 小时内的曝光量要限制,还要保证流量在一天内均匀分布,不能一早上就把量花完。

PID 口诀:"风浪越大,控流越强烈"------误差越大、增长越快、积累越久,限制就越狠。

强化学习:PID 的进化版

PID 的问题是调参数靠实验,成本高。所以大厂正在切换到强化学习:

  • 不依赖标注数据
  • 和环境交互,根据奖励信号实时调整策略
  • 后面课程会详细讲

必知术语

术语 大白话
监督学习 有标准答案,照着学(考试做题)
对比学习 没标准答案,学"谁和谁像"(物以类聚)
强化学习 试错+反馈学(训狗)
损失函数 衡量预测和答案差距的尺子
梯度下降 投石问路,一步步找到最优参数
Wide&Deep 点击率预测经典模型,宽度+深度两条腿
Embedding 把东西映射成空间里的一个坐标点
DeepWalk 在图上随机游走,用 Word2Vec 学用户和商品的坐标
PID 控制 比例+积分+微分,经典控流算法
三大学派 连接主义(深度学习)、行为主义(强化学习)、符号主义(知识图谱)

记忆口诀

模型工程三招:

  1. 监督学习 ------ 有答案,照着学(选模型 + 调参数 + 梯度下降)
  2. 对比学习 ------ 没答案,学远近(Word2Vec、DeepWalk、大模型核心)
  3. 强化学习 ------ 靠反馈,慢慢试(PID 控流、训狗式学习)

公式不用背,思路要搞清。

相关推荐
Lost of 程序猿40 分钟前
ASP.NET Core 多租户架构深度实战:一套系统,管理一支船队
后端·架构·asp.net
深念Y1 小时前
视频平台架构重构:从微服务到可插拔基础设施
后端·微服务·云原生·架构·rabbitmq·音视频·rocketmq
Thneonl1 小时前
同一资源、不同 ID:多源拓扑的 Identity Resolution
架构·rust
Freak嵌入式1 小时前
树莓派 Pico GPIO 深度解析:从 MCU 架构到寄存器控制,底层原理与实践指南
java·开发语言·科技·单片机·嵌入式硬件·架构
头茬韭菜1 小时前
图解 Fluss(一):一张图看清整体架构,两张图理解核心服务
架构·fluss
一克拉的眼泪很珍贵1 小时前
23 - 综合实战(上):需求分析与架构设计!从零到一构建生产级智能客服Agent
人工智能·ai·性能优化·架构·需求分析
深念Y2 小时前
06-移动端三技术栈优劣对比-理论推演
服务器·云原生·架构·音视频·短视频
跨境数据猎手2 小时前
外贸独立站开发:从选型到上线全流程梳理
大数据·架构·自动化
深念Y3 小时前
视频平台架构重构:从微服务到云原生
服务器·微服务·云原生·重构·架构·音视频·短视频