九支-听课笔记(9-12节)

第9节课(召回模块)

搜索系统核心架构:从"海选"到"决赛"

一个实用的搜索引擎之所以分两步走,是因为性能 与精度的平衡。如果直接用复杂的 Transformer 去匹配语料库里的几百万条数据,速度会慢到用户无法忍受。

1. 第一阶段:召回模块 (Recall) ------ "海选"

这是系统的第一个漏斗,目标是快。

  • 输入: 用户输入的原始问题(Query),例如"机器学习是什么?"。

  • 资源库: 底部有一个巨大的离线语料库(存储了成千上万条可能的答案或文档)。

  • 动作: 从海量数据中快速"捞"出前 32 个最相关的候选。

  • 特点:

    • 粗略相关: 计算方式比较简单(比如通过关键词匹配或简单的向量检索),能保证"相关的都在这 32 个里",但顺序不一定完全准确。

    • 高效率: 必须在毫秒级完成海量数据的筛选。

2. 中间产物:32 个相关文本(候选集)

  • 召回模块输出的是一个子集。

  • 形式通常是文本段落,作为接下来深度加工的输入。

3. 第二阶段:排序模块 (Rank) ------ "精选/决赛"

这是系统的第二个漏斗,目标是准。

  • 输入: 用户 Query + 召回出来的 32 个候选文本。

  • 动作: 对这 32 个文本进行精细打分。

  • 原理: 计算 Query 与每一个回答之间深度语义的相似度 。这里通常就会用到你之前学的 Transformer/BERT 结构(利用其强大的自注意力机制捕捉语义细节)。

  • 区别于召回:

    • 更准确: 它的分数反映了真实的语义匹配程度。

    • 计算量大: 因为候选集已经减小到 32 个,模型可以放心地使用复杂的数学运算来保证准确性。

4. 最终输出:重排结果 (Re-ranking)

  • 系统根据排序模块算出的"更准确的分数",对这 32 个文本进行重新排序。

  • 返回给用户:分数最高(最准确)的内容排在第 ① 位,依次排到第 32 位。

Python源代码文件主要有.py和 .ipynb两种格式,.py是标准格式,可用多种编辑器运行;.ipynb是Jupyter Notebook专用格式,支持多语言交互,可转换为.py文件。

第10节课(排序模块)

第11节课(排序模块)

第12节课(search_system)

相关推荐
程序边界12 小时前
一台数据集成软件的拆解笔记(下):一致性、容错、跑批与迁移,KFS 真正难的地方在这
java·前端·笔记
金色光环14 小时前
【DSP学习】C2000_ADC中断_笔记
笔记·学习
zhangrelay14 小时前
mrpt杂乱笔记-26-10-31
笔记·学习
熊猫钓鱼>_>15 小时前
平行视界兼容模式与魔法变量配置避坑【鸿蒙心迹】
运维·服务器·开发语言·笔记·华为·harmonyos·openharmony
IT199516 小时前
Docker 快速部署 DM8 达梦数据库|完整踩坑笔记
笔记·docker·容器
東隅已逝,桑榆非晚16 小时前
算法2. 双指针法-复写零
c++·笔记·学习·算法
云析赢指标公式网416 小时前
文华财经指标源码笔记:WINNER筹码函数、控盘变量与MACD变体的调试记录
java·笔记·算法
无心水17 小时前
22、数学与经济管理(运筹学) 核心考点与学习笔记
人工智能·笔记·学习·架构师·软考·软考架构师·软考系统架构师
xxwl58518 小时前
Nginx 基础学习笔记
笔记·学习·nginx
January120718 小时前
【AI方法笔记】2026-11-02:模型流式吐 JSON 时,前端会遇到四种崩法
前端·人工智能·笔记·json