一句话总结
在线系统就是 AI 的前台冲锋队 ：离线系统备好的模型和数据，在这里真正用来接用户请求、做排序、赚广告费。核心就两件事------用排序分控制业务指标 ，在多方博弈中最大化收益。
打个比方：离线系统是后厨备菜，在线系统是前厅接单、配菜、上菜、收钱。后厨再好，前厅乱了也赚不到钱。
核心内容分两大块
第一块：排序服务------用排序分当"指挥棒"
用向量召回能做基础推荐，但只靠"空间距离近"不够精细------就像判断"你和一个人关系好不好"，只能给个整体分，说不出哪好哪不好。工业级系统要设计更个性化的排序。
指标排序：排序分 = 业务的目标函数
排序不只是"打分排队"，它的本质是通过控制排序因子，直接影响业务表现。
- 电商想最大化 GMV → 排序分 = 点击率 × 加购率 × 付款率 × 客单价
- 但老板说要提高日活怎么办？→ 分析发现用户买了劣质商品就不回来了，于是把质量分（好评率、退货率）加进排序分
- 还可以加更多因子：指标因子就是系统的指挥棒，想让哪个指标涨，就调对应的因子
控制因子：把 PID 塞进排序分
上节课讲过用 PID 直接限流（超投就随机剔除内容），但有更好的办法：
把 PID 的输出作为一个控制因子，加进排序分里。
好处：
- 统一控制：所有逻辑都通过排序分来调，更灵活
- 更温和：允许一定的超投弹性，内容足够优质还是能拿到流量，不会被冰冷的限流数字卡死，不打击创作者积极性
这本质上是混合专家系统（MoE）
排序分里每个因子背后都站着一个或多个模型（点击率预测模型、PID 控制器......），不同专家模型各管一摊，共同实现业务目标。
GPT-4 等大模型也普遍用 MoE 架构。
第二块：多方博弈------广告系统里的竞价游戏
单系统讲完了，接下来看多个智能体之间怎么博弈。最典型的场景就是互联网广告实时竞价（RTB）。
背景：RTB 是一场"暗拍"
优质广告位（比如抖音开屏）背后无数广告主抢，采用暗拍------谁都不知道别人出价多少，只能报自己的心理最高价。
买方视角（DSP）：怎么出价才赚钱？
买方的目标是低买高卖赚差价。但真实场景里，广告主给的不是"展示一次多少钱"，而是"点击一次多少钱"（比如一次点击 5 美元）。
所以买方要做换算：
展示价格 = 点击价格 × 点击率比如点击率 5%，点击价格 5 美元，那这次展示的期望收益就是 0.25 美元。
但不能直接按期望收益报价------那样只是帮广告主把钱转交给媒体，白忙活。要留利润空间：
- 加一个盈利系数（比如只出 80%），每单抽 20% 佣金------这就是经典 DSP 的商业模式
- 问题：出价低了会输掉很多本来能赚的流量
- 进阶：动态盈利系数------预测竞争对手报价，在有利润的前提下，比他高一点点就行
卖方视角（SSP/媒体）：怎么让买方多出钱？
卖方不想让买方"消极比赛"（只比对手高一点点），所以会用策略搅浑市场：
- 动态起拍底价：根据情况调整最低出价
- 智能轮空：故意让某些竞拍者轮空，制造竞争压力
- 背后用的是拍卖理论 和市场竞价预估（Bid Landscape Forecasting）
多智能体博弈：不只是广告
这个思路在大模型时代更重要：
- ChatGPT 上集成的所有应用，都是参与博弈的智能体------每个应用都想让大模型选自己
- 未来 AI Agent 可以帮你安排工作、生活、学习，多个 Agent 之间也会博弈
- 斯坦福做过"AI 小镇"实验：25 个大模型实例扮演小镇居民，模拟人类社会行为
这部分先有印象，后面课程会详细讲多智能体算法。
这篇最重要的一个观点
文章最后抛出了全篇的核心结论：
内容分发系统（搜索、推荐、广告）和内容生成系统（AIGC），本质上都是在为用户交付内容。
对比一下经典 AI 系统架构和 ChatGPT 的架构------没太大区别。
区别只在于：上一代 AI 系统做的是"内容分发"（从已有内容里挑给你），AIGC 在大模型支持下把它升级成了"内容生成"（当场造给你）。
互联网流量的迁移规律：
门户网站 → 搜索引擎 → 头条/短视频 → 大模型平台
大模型平台就是下一代流量高地。
必知术语
| 术语 | 大白话 |
|---|---|
| 在线系统 | 前台冲锋队，真正接用户请求、做排序、返回结果 |
| 排序分/目标函数 | 系统的指挥棒，调因子就能调业务指标 |
| 质量分 | 好评率、退货率等，加进排序分防止劣质商品 |
| 控制因子 | 把 PID 输出塞进排序分，温和地控制流量 |
| MoE（混合专家系统） | 多个专家模型各管一摊，共同决策；GPT-4 也用 |
| RTB（实时竞价） | 广告位暗拍，广告主实时报价抢流量 |
| DSP | 流量买方，帮广告主低价买流量 |
| SSP | 流量卖方，帮媒体最大化收益 |
| 展示价格 | 点击价格 × 点击率，即一次展示的期望收益 |
| 盈利系数 | 报价时留利润空间，比如只出期望收益的 80% |
| 动态起拍底价 | 卖方策略，根据情况调整最低出价 |
| Bid Landscape Forecasting | 市场竞价预估，预测竞争对手出价 |
| 多智能体博弈 | 多个 AI 系统之间互相竞争、合作 |
记忆口诀
在线系统两件事：
- 排序赚钱 ------ 排序分当指挥棒，加质量分、加控制因子，本质是 MoE
- 竞价博弈 ------ 买方算期望收益留利润，卖方定底价搅市场
最终结论： 推荐系统和大模型系统架构没区别，都是"给用户交付内容"，一个是分发，一个是生成。