AI领域常用名词的系统梳理

一、基础与范式

人工智能(AI)

致力于让机器模拟人类智能行为的广阔学科。当前的主流路径是靠数据与算力驱动的机器学习,而非人工编写规则。

通用人工智能(AGI)

指具备跨领域通用能力、能像人一样学习并解决未见过问题的AI。当前所有系统都属于"窄AI"------能力边界由训练目标决定。AGI的判断标准本身存在争议(图灵测试、经济价值超越人类、自主设定目标等),不同定义对应的时间表可以相差几十年。

机器学习(ML)

不预先写死规则,而是让计算机从数据中自动寻找规律并进行预测或决策的技术。它是AI的核心子领域。

深度学习(DL)

机器学习的一个子集,使用多层人工神经网络从数据中自动提取层次化特征。与经典机器学习的关键区别在于"特征由谁设计"------深度学习不需要人工设计特征,网络自己从原始数据中学习。

神经网络(Neural Network)

在软件层面模仿生物神经元连接方式的数学模型。层次越深,能表达的抽象程度越高。深度学习中的"深度"即指网络层数多。

监督学习 / 无监督学习 / 强化学习

机器学习按学习信号划分的三大范式。监督学习从"输入---标签"对中学习映射;无监督学习在没有标签的数据中发现结构(聚类、降维);强化学习通过智能体与环境的试错交互,以奖励信号优化决策策略。

算法(Algorithm)

指导计算机解决问题的步骤与规则。在算力有限时,算法效率直接决定AI系统能否落地。

开源 / 闭源

开源指模型代码与权重公开可获取、可修改、可自部署;闭源指模型作为商业机密保留在厂商服务器中,用户通过API调用。两者在可控性、成本、数据隐私和定制自由度上取舍不同。

训练 / 推理

训练(Training) 是用海量数据反复调整模型参数的过程,算力消耗极大;推理(Inference) 是训练完成的模型对用户输入生成输出的过程,更关注响应速度与延迟。

二、模型架构

大语言模型(LLM)

参数量通常在十亿级以上、用海量文本训练的神经网络,核心任务是根据上下文预测下一个词元(token)。它在对话、写作、编程、推理等任务上表现出通用能力,本质是一个超大规模的概率模型。LLM的知识截止于训练数据的时间点,不会主动更新,也不天然知道用户的私有资料------RAG与微调正是针对这一短板的补足手段。

Transformer

2017年Google在《Attention Is All You Need》中提出的架构,用自注意力机制取代了RNN/CNN处理序列数据的方式。自注意力允许序列中任意两个位置直接建立关联,不受距离限制,既解决了长距离依赖问题,也使训练可以大规模并行------而并行能力是模型规模持续放大的前提。原始Transformer包含编码器和解码器,后续分化出三条路线:只用编码器(BERT类,擅长理解)、只用解码器(GPT/Claude/DeepSeek类,擅长生成)、编码器---解码器并用(机器翻译等)。今天说"大模型",绝大多数指解码器路线。

自注意力机制(Self-Attention)

Transformer的核心运算。它让序列中的每个位置"注意"到其他所有位置,并根据相关性动态聚合信息,从而一次性建模全局依赖关系。多头注意力(Multi-Head Attention) 则是并行运行多组自注意力,捕捉不同类型的关联模式。

BERT

Google 2018年发布的模型,取Transformer编码器部分,训练目标是"掩码语言建模"(把句中遮住的词补回来),学到的是双向语义表示。它只做理解、不做生成,主场是搜索、分类、情感分析、意图识别等"给定文本、输出判断"的任务。

参数量(Parameter)

模型内部通过训练沉淀下来的权重变量总数。参数量级是衡量模型"容量"的首要指标,但不是唯一指标------数据质量、架构、训练方法同样决定最终能力。

Scaling Law(规模定律)

模型性能随参数量、数据量和算力的增加而呈现可预测的提升。这一规律是过去几年大模型"越大越好"路线的主要经验依据,也是当前讨论"规模是否遇到瓶颈"的起点。

扩散模型(Diffusion Model)

一类生成模型,通过逐步向数据添加噪声、再学习反向去噪过程来生成图像、音频等内容。与自回归语言模型"从左到右逐词生成"的机制不同,扩散模型在连续空间中进行迭代式精炼,是当前图像生成的主流架构之一。

三、训练与适配

预训练(Pre-training)

在通用、大规模、无标注数据上从零训练模型,使其获得语言、世界知识和基本推理能力的阶段。预训练的产物是基座模型------它具备通用常识,但尚未针对对话、指令遵循或特定领域进行适配。

微调(Fine-tuning)

在预训练基座模型之上,用特定领域或任务的数据进行二次训练,改变模型权重,使其成为垂直场景的"专家"。微调擅长塑造行为(格式、语气、领域套路),但不擅长注入实时信息和精确事实------后者应交给RAG。

监督微调(SFT)

微调的一种具体形式,使用"输入---期望输出"的标注对训练模型遵循指令。SFT是大模型从"会续写"变成"会对话、会执行指令"的关键步骤之一。

LoRA / QLoRA

LoRA(低秩适配) 是一种参数高效微调方法:冻结原模型权重,只训练插入的低秩矩阵,大幅降低微调所需的显存和存储。QLoRA进一步在量化后的基座上做LoRA,使大模型微调可以在消费级硬件上进行。

RLHF(基于人类反馈的强化学习)

在SFT之后,用人类偏好数据训练奖励模型,再通过强化学习优化语言模型,使其输出更符合人类偏好(有用、诚实、无害)。它是ChatGPT类模型"对齐"阶段的核心技术之一。

DPO(直接偏好优化)

一种替代RLHF中强化学习环节的对齐方法,直接用偏好对数据优化语言模型策略,流程更简单、训练更稳定,在工业界获得广泛采用。

模型蒸馏(Distillation)

用大模型(教师)的输出指导小模型(学生)训练,使小模型以更低成本获得接近大模型的能力。蒸馏解决的是部署效率问题,而非能力上限问题。

模型量化(Quantization)

降低模型权重和激活值的数值精度(如从FP16降到INT8/INT4),以减少显存占用和推理延迟。量化通常带来轻微精度损失,换取部署可行性与成本的大幅改善。

检查点(Checkpoint) / 训练轮次(Epoch) / 批大小(Batch Size)

检查点是训练过程中的自动存档,用于中断恢复;Epoch指完整遍历训练集一次;Batch Size指一次参数更新所处理的样本数。三者都是训练工程中的基础控制变量。

四、推理与增强

提示词(Prompt) / 提示工程(Prompt Engineering)

提示词是用户向模型发出的指令文本;提示工程是研究如何组织措辞、示例、格式约束和推理引导,以在不改变模型权重的前提下最大化输出质量。少样本示例、角色设定、格式约束、自我评审等都是常用技巧。它是零成本提升输出质量的起点,但无法弥补模型在知识层面的根本缺失。

上下文工程(Context Engineering)

比提示词工程更上游的系统性工程:不仅关心"说什么",还管理模型在生成时所能看到的全部上下文信息------包括记忆检索、文档排序、缓存、Token预算分配等。在复杂Agent系统中,上下文工程对最终效果的贡献往往超过单次提示词的措辞优化。

上下文窗口(Context Window) / 长上下文(Long Context)

上下文窗口是模型一次能处理的最大Token数量。长上下文能力(如百万级Token)使模型可以一次性读完整本书或大型代码库,而不再依赖切块处理。

Token(词元)

模型处理文本的最小计量单位,可以是一个字、一个词或子词片段。上下文长度限制、API计费、推理成本均以Token为基准。

思维链(Chain-of-Thought, CoT)

引导模型在给出最终答案前显式地拆解中间推理步骤。在逻辑推理、数学和代码任务中,CoT通常能显著提升正确率,代价是更长的输出和更高的推理成本。推理模型 则是在训练阶段就将这种"先思考再回答"的模式内化,而非仅靠提示词触发。

RAG(检索增强生成)

在模型生成回答之前,先从外部知识库(通常是向量数据库)中检索相关文档,将检索结果作为上下文注入Prompt,再让模型基于这些材料生成答案。RAG解决的是知识的实时性、私有性和可溯源性,改动发生在输入侧而非模型权重,因此更新成本极低。

Embedding(向量嵌入) / 向量数据库

Embedding将文本、图像等对象映射为高维稠密向量,语义相近的对象在向量空间中距离更近。向量数据库专门存储和检索这些向量,是RAG、语义搜索和推荐系统的底层基础设施。

温度系数(Temperature)

控制生成随机性的参数。温度越低,输出越确定、保守;温度越高,输出越多样、发散。它是推理阶段最常用的行为调节旋钮之一。

AI Agent(智能体)

能够自主规划、调用工具、管理记忆并执行多步骤任务的AI系统。与单轮对话模型不同,Agent的核心特征是"会干活"而非仅仅"会回答":它可以拆解目标、选择工具、观察结果并迭代,必要时调用多个子系统协同完成复杂任务。

MCP(Model Context Protocol)

一种让模型以标准化方式连接外部工具和数据源的协议。可以把它理解为AI Agent与外部世界之间的"接口规范",使Agent能够发现并调用文件系统、数据库、API等资源,而不需要为每个工具单独编写集成代码。

五、评估与诊断

过拟合(Overfitting)

模型在训练数据上表现极好,但在新数据上表现差。本质是模型过度学习了训练集的特有模式和噪声,而非一般规律。识别信号:训练损失持续下降而验证损失开始上升。缓解手段包括早停、正则化、Dropout、数据增强等。

泛化(Generalization)

模型将学到的能力应用到未见数据和任务上的表现。泛化能力是大模型区别于传统机器学习方法的关键优势,也是"规模扩展"路线在经验上成立的核心支撑之一。

困惑度(Perplexity)

语言模型的基础内在指标,衡量模型对测试文本的预测能力。困惑度越低,模型对语言结构的掌握越好。但它主要反映语言建模质量,与生成内容的实用性、创造性、事实准确性并不总是直接相关,需结合任务指标和人工评估使用。

BLEU / ROUGE

BLEU基于n-gram精确率衡量生成文本与参考文本的重合度,最初用于机器翻译;ROUGE侧重召回率,常用于摘要评估。两者都是自动相似度指标,对语义等价但措辞不同的输出可能低估质量。

人工评估(Human Evaluation)

由人类评估者对模型输出进行评分、排序或多维度评判,被视为生成质量的"金标准",能够捕捉自动指标难以量化的流畅性、有用性、创造性和适当性。成本高,但在开放生成和复杂推理场景中不可替代。

六、应用与交互

多模态(Multimodal)

模型同时处理和关联多种输入/输出模态(文本、图像、音频、视频等)。多模态能力的核心挑战在于跨模态对齐------让模型理解"图像中的哪个区域"对应"文本中的哪个词"。跨模态注意力是常见实现机制。

计算机视觉(Computer Vision)

让机器理解和生成视觉信息的AI分支,涵盖图像分类、目标检测、图像生成、视觉问答等任务。视觉Transformer(ViT) 将图像切分为图块后用Transformer处理,是当前视觉主干的代表架构之一。

自然语言处理(NLP)

让机器理解和生成人类语言的分支。技术路线从RNN/LSTM时代演进到Transformer时代,任务涵盖分类、翻译、问答、摘要、信息抽取等。

AIGC(AI生成内容)

泛指由AI系统生成的文本、图像、音频、视频、代码等内容。AIGC强调"生成"这一能力维度,与传统的判别式AI(分类、预测)形成对照。

垂直大模型

针对特定行业或领域(医疗、法律、金融、工业等)进行数据适配和微调的大模型,与通用大模型相对。垂直化的核心价值在于领域知识和术语体系的深度适配,而非单纯缩小参数规模。

七、安全、伦理与治理

幻觉(Hallucination)

模型生成看似流畅合理、但不符合事实或缺乏依据的内容。幻觉的根源在于语言模型的训练目标是"预测下一个词"的统计合理性,而非事实真值核查。RAG、引用溯源、不确定性校准是当前主要的缓解方向。

对齐(Alignment)

确保AI系统的行为与人类意图和价值观一致。对齐问题之所以根本,是因为"模型表现好"与"模型做我们真正想要的事"之间存在鸿沟。RLHF、DPO、宪法AI等是对齐的主要技术手段;而越狱、奖励作弊、策略性欺骗等现象则是对齐失效的表现。

偏见(Bias)

AI系统产生对特定个体或群体的不公平、歧视性输出,通常源于训练数据中已有的社会偏见,并在模型规模放大后被继承和放大。算法偏见是AI伦理与安全的核心议题之一。

可解释性(Explainability)

让人类理解AI系统为何做出某一决策或生成某一输出。在医疗、金融、司法等高风险场景中,可解释性与准确性同等重要;大模型的可解释性仍是开放难题。

越狱(Jailbreak)

通过精心构造的提示词绕过模型的安全限制,诱导其输出被禁止的内容。越狱与对齐是一体两面的问题:对齐试图约束模型行为,越狱则寻找约束的缝隙。

以上清单覆盖了AI领域从底层概念到前沿治理的主要术语。需要留意的是,AI术语的边界和内涵仍在快速演变,同一个词在不同语境(学术论文、工程落地、产品宣传)中的侧重可能不同;理解一个术语时,先定位它站在"哪一层"------是数据层、模型层、训练层、推理层还是治理层------比记住孤立定义更有助于形成稳定的认知框架。

相关推荐
Spidermanbaout16 分钟前
Prompt-Engineering实战-2026年11月2日
人工智能·机器学习·ai·chatgpt·ai编程
阿里云大数据AI技术1 小时前
EMR Serverless StarRocks + DLF Paimon 多模态数据湖检索
人工智能
文青的青2 小时前
不写一行代码,用 WorkBuddy 搭建并上线个人静态博客
人工智能
IT_陈寒2 小时前
Redis连接池泄漏那次,我差点把生产环境搞崩了
前端·人工智能·后端
Dawson Zhu2 小时前
从空间 Scaling 到时间 Scaling
人工智能·语言模型·架构·aigc·agi
阿里云大数据AI技术2 小时前
本体如何落地?阿里云 Milvus 把企业文档变成知识图谱和 Wiki
人工智能
QXWZ_IA3 小时前
公安视频专网如何与定位数据融合?架构与实施要点
人工智能
小林ixn3 小时前
GraphRAG 实战:用 Neo4j 知识图谱,让 RAG 从“找货“进化到“梳理关系“
人工智能·知识图谱·neo4j
敖老师3 小时前
Dify 连局域网 Ollama 的两个坑:docker0 网段撞车,和请求里少掉的那个参数
人工智能