大模型架构之GPT、LLaMA与PaLM模型

介绍3种Decoder-Only架构的模型，包括GPT、LLaMA与PaLM。

2.2.1 GPT系列语言模型

OpenAI在2018年提出了首个GPT（Generative Pre-trained Transformer）模型，这一开创性的工作标志着大规模预训练语言模型时代的开启。GPT-1[11]的核心思想在于，借助大量通用文本语料，通过无监督的语言建模任务，使模型学习语言的统计规律和潜在结构特征。预训练阶段完成后，再通过在特定任务上的少量有监督微调，实现模型能力向实际应用的迁移。这种"预训练-微调"范式打破了传统自然语言处理任务中各自为政的模型构建方式，为后续多任务统一建模奠定了基础。GPT-1基于标准的Transformer解码器架构，模型参数约为1.17亿，虽属初期探索阶段，但已显示出语言建模在多任务迁移学习中的潜力，其在自然语言生成与理解方面的表现，远超同时期的多数传统方法。

继GPT-1之后，OpenAI于2019年发布了GPT-2[12]。该模型在参数规模上实现了质的飞跃，达到15亿之巨，训练语料的多样性和覆盖范围也显著提升。GPT-2继续沿用自回归语言建模目标，通过预测给定上下文中的下一个词来学习语言序列的生成模式。尽管未对具体任务进行微调，GPT-2却能仅凭提示文本完成多种自然语言处理任务，如文本续写、问答、摘要等，体现出良好的通用性和上下文适应能力。模型生成的文本在语义连贯性和风格保持方面也有显著提升。考虑到其可能带来的滥用风险，例如生成误导性或虚假信息，OpenAI在发布初期并未公开全部参数，这也在一定程度上反映了大模型向实际应用接轨所面临的伦理与治理挑战。

2020年发布的GPT-3被广泛视为通用大模型发展的重要里程碑。该模型的参数量跃升至1750亿，是GPT-2的百倍级扩展。GPT-3在设计上保持了前代的自回归架构，但其规模的扩大带来了前所未有的泛化能力。训练数据覆盖广泛，包括互联网上的大量网页、书籍、百科内容等，增强了模型对多领域语境的理解力。GPT-3最突出的特点之一是其在零样本学习（zero-shot learning）与少样本学习（few-shot learning）中的强大表现：仅通过在提示中提供任务说明或少量示例，模型即可适应不同任务，无需额外微调。这一能力极大地降低了模型应用门槛，推动了"提示工程（Prompt Engineering）"[16]概念的兴起，也使语言模型在多样化任务中的适应性达到了新高度[13]。GPT-3的问世，不仅在学术界引发了广泛关注，也加速了产业界对大型语言模型的部署尝试，成为推动自然语言处理从研究走向应用的重要力量。

在GPT-3的基础上，OpenAI推出了ChatGPT系列产品，通过引入人类反馈强化学习（Reinforcement Learning with Human Feedback，RLHF）[15]机制进一步提升模型的交互表现。在该机制下，模型的回答不仅依据语言生成的概率结构，还综合了人类标注者对响应质量的评价，从而引导模型生成更符合用户预期、逻辑更严密、语义更连贯且更安全的内容。ChatGPT的推出标志着通用语言模型首次面向大众应用，实现了从研究原型向产品化的关键跃迁。它被广泛用于智能问答、知识获取、内容创作、编程助手等场景，成为支撑智能服务系统的核心组件，显著提升了语言模型在人机交互系统中的实际可用性与用户体验。

2023年发布的GPT-4在多个关键维度上继续推动技术演进，进一步拓展了模型的表现边界。GPT-4延续了超大规模预训练策略，并引入了更为丰富和高质量的多源数据，提升了模型在语言理解、逻辑推理、复杂任务执行等方面的准确性与稳健性。值得关注的是，GPT-4初步支持多模态输入，能够处理图文混合的输入信息，这一特性显著拓展了模型在视觉语言理解、图像描述、图表分析等领域的应用潜力[14]。尽管OpenAI并未公开GPT-4的具体参数规模，但已有多项评估表明，其综合性能在当时处于同类模型的领先水平，进一步巩固了GPT系列在大语言模型领域的主导地位。

2024年推出的GPT-4o（其中"o"代表"omni"，意指"全能"）则是对通用智能系统形态的进一步探索。GPT-4o在原有文本与图像处理能力的基础上，深度融合了语音输入输出能力，具备处理文本、图像、音频等多模态输入的综合能力。该模型在语音识别、语音合成、情感理解、多模态对话等方面表现出显著优势，能够实现更自然、实时的人机交互，具备较强的语境保持与语义适配能力[17]。GPT-4o的设计充分考虑了实际部署中的响应速度、计算效率与交互质量的平衡，使其成为具备通用智能特征的统一模型形态的一种尝试，为构建多模态、连续交互、情境感知的智能体系统奠定了技术基础。

综观GPT系列的发展，从最初的GPT-1到多模态统一模型GPT-4o，OpenAI持续推动模型规模的拓展、训练数据与算法机制的优化，同时逐步引入人类价值对齐机制，确保模型能力提升的同时强化其社会可控性和伦理合规性。贯穿这一系列模型演进始终的是Transformer架构所提供的强大建模能力与扩展性，而"预训练+微调"的范式、多任务学习、提示引导机制和多模态融合技术，则共同构成了现代通用语言模型的核心技术路径。这一系列技术演化不仅深刻改变了自然语言处理的研究格局，也为未来构建具备通用认知能力的人工智能系统提供了坚实的基础。

2.2.2 LLaMA模型

LLaMA系列语言模型由Meta AI团队自主研发，旨在融合当代大规模预训练模型的技术优势，并在结构设计与训练策略上不断探索创新路径，以实现模型性能与部署效率的双重提升。该系列模型自推出以来，便以其卓越的计算性价比、广泛的适应场景及开源友好的策略，在学术界与工业界均引发了广泛关注。

首个版本LLaMA1于2023年初发布，其设计理念在于通过合理控制模型参数规模，同时依托大规模高质量语料进行训练，从而兼顾性能表现与计算资源限制。与当时流行的大模型动辄千亿级参数规模不同，LLaMA1将重点放在模型结构的优化与训练效率的提升上。其训练数据来源横跨多个领域，涵盖网页文本、开源代码、学术论文、百科内容以及社区问答等多种类型，力求构建一个在通识知识和语言理解上具备强泛化能力的基础模型。在模型架构方面，LLaMA1延续了Transformer架构的核心理念，并针对多项关键模块进行了优化。例如，采用旋转位置编码（Rotary Positional Embedding，RoPE）替代传统的绝对位置编码机制，增强了模型对序列顺序与距离的建模能力；在前馈网络中引入了更具非线性表达能力的SwiGLU激活函数，以提升模型在深层结构中的表示能力；同时，采用Pre-Norm层归一化策略，即在每个子层输入前进行归一化处理，从而改善了深层模型训练中的梯度稳定性问题[18]。

继LLaMA1之后，Meta AI于2023年中期发布了升级版本LLaMA2。该版本在训练数据规模、模型规模与训练策略等多个方面实现了显著升级。预训练语料的体量相比前代模型大幅增加，数据覆盖的领域更加广泛，同时在训练阶段引入了人类反馈强化学习（Reinforcement Learning from Human Feedback，RLHF）机制。该机制结合有监督微调和基于奖励模型的策略优化，使模型在处理复杂语言任务，尤其是开放式问答、指令遵循和对话生成等方面的能力显著增强。在架构设计上，LLaMA2保持了前代模型的主干结构，同时在参数规模较大的模型中引入了分组查询注意力（Grouped Query Attention，GQA）机制，使多个查询向量共享键和值，从而在保持注意力机制效果的前提下显著降低了计算开销。LLaMA2提供了从7亿到70亿不等的多个参数规模版本，便于在不同算力资源条件下灵活部署，兼顾研究探索与产业落地的双重需求[18]。

2024年发布了LLaMA3。在预训练语料方面，LLaMA3使用了高达50TB的数据资源，较前代提升了近七倍，数据涵盖了更丰富的多语言内容和大量结构化代码语料，进一步增强了模型的跨语言迁移能力与程序推理水平。此外，LLaMA3还在分词器设计上进行了重大调整，其词汇表规模扩展至原来的三倍，从而在文本理解与生成任务中提供了更高的语义分辨率和表达能力。训练过程中依然采用RLHF技术，并在样本采样、训练调度等细节上进行了优化，以保证模型在多个任务维度上均衡发展。实验结果显示，LLaMA3在自然语言理解、逻辑推理和代码生成等任务中的表现大幅提升，部分规模版本在多个评测基准上已达到或超越了同时期的GPT-4，展示出强劲的技术竞争力[19]。

值得一提的是，LLaMA系列并非单一模型线性的演进，而是逐渐形成了一个多维生态系统，涵盖多种面向特定任务或场景的微调版本。在通用能力提升方面，Alpaca通过引入由GPT-3.5生成的大规模指令微调数据集，显著增强了模型对任务指令的理解与执行能力；Vicuna[20]则依托真实用户对话语料优化了对话生成与人机交互表现，使模型更贴近真实用户需求；Guanaco利用QLoRA（Quantized Low-Rank Adapter，量化低秩适配）技术[21]，在显著降低训练资源需求的同时，保持了良好的任务适应性能，是面向轻量级部署环境的重要探索成果。

在垂直行业应用方面，LLaMA系列模型的能力亦被广泛定制与延展。例如，CodeLLaMA[22]针对大规模开源代码语料进行训练，显著提升了模型在代码生成、自动补全与静态分析等编程任务中的表现；LawGPT[23]聚焦法律文本处理任务，通过法律问答语料进行微调，增强了模型在专业法律语境下的理解力与推理能力；GOAT[24]利用系统化构建的数学题库对模型进行微调，显著改善了模型在数学表达与逻辑推导任务中的能力；Cornucopia[25]则专注于金融领域的专业问答系统，优化了模型对金融术语与领域知识的掌握。

2.2.3 PaLM模型

Pathways Language Model（简称PaLM）[26]由Google Research旗下的Brain Team于2022年4月提出，是当时业界参数规模最大、性能最为强劲的语言模型之一，标志着谷歌在通用人工智能模型领域迈出的关键一步。PaLM是在Pathways系统[27]下开发的首个旗舰模型，其命名也体现了该模型在Pathways体系中的核心地位。Pathways系统是谷歌提出的一种新型的机器学习架构，旨在通过统一的模型结构高效处理多任务、多模态数据流，打破传统深度学习模型在任务独立性、数据孤岛及资源分散方面的局限。

PaLM模型采用纯粹的解码器结构，其架构与OpenAI的GPT系列相似，均属于自回归语言建模范式，即通过学习预测下一个词以建构语言理解与生成能力。PaLM的最大版本拥有5400亿个参数，在规模上显著超越当时大多数现有模型。训练过程中，PaLM使用了7800亿个高质量标记（tokens），数据来源广泛，涵盖高质量的网页内容、维基百科、多语言书籍、论文以及代码语料。与许多同类模型相比，PaLM在数据质量控制与预处理流程上更加精细，为其后续的泛化能力与推理能力奠定了坚实基础。

该模型的训练在Pathways系统上完成，系统支持高效的模型并行和数据并行机制，结合混合精度训练策略显著提升了大模型训练的效率与稳定性。得益于优化的训练管线和工程设计，PaLM在训练过程中展示出卓越的扩展性和资源利用效率，使得如此庞大的参数模型能够在可控成本下稳定训练完成。

在多个下游任务上，PaLM展现了强大的少样本学习与零样本泛化能力。在常识推理、数学推理、编程语言生成、摘要与翻译等任务中，PaLM均取得了领先或可比于当时最佳模型的结果，尤其在自然语言理解、长文本生成与复杂语义问答任务中表现突出。值得注意的是，PaLM在多轮推理与链式思维任务中的表现令人瞩目，其生成过程更加贴近人类的逻辑演绎路径，这一能力的提升也使其成为大型语言模型发展的里程碑。

PaLM的成功推出为其后续的模型家族奠定了基础。随后，Google陆续发布了多个基于PaLM的衍生模型，分别针对不同领域与任务场景进行优化与扩展。PaLM-Coder[28]是其中面向代码生成任务的特化版本，通过在大规模开源代码数据上进行微调，具备优越的代码补全、程序生成与跨语言代码迁移能力，成为Google在AI编程领域的重要研究成果之一。

2023年5月，Google在开发者大会上正式发布PaLM 2[29]，这是PaLM系列的第二代模型，在架构、训练语料与多语言能力方面均实现了全面升级。尽管Google未公开PaLM 2的具体参数规模，但根据外部评估与官方披露，其在逻辑推理、语言理解、代码生成等任务中的表现已全面超越前代。PaLM 2加强了多语言训练，支持超过100种自然语言，尤其在低资源语言上的表现更为出色。此外，PaLM 2还具备更强的推理能力，在数学题解答、逻辑归纳与法理推演等任务中表现出接近专家级水平。该模型也被部署于Google旗下的多个产品中，如Gmail的智能写作辅助、Docs的内容润色、Bard聊天机器人等，成为Google AI产品体系的中坚力量。

在安全领域，Google推出了Sec-PaLM[30]，这是一种专门用于恶意软件分析、脚本识别与网络安全威胁检测的模型，基于PaLM 2架构开发，并结合了大规模网络安全数据进行训练。Sec-PaLM在静态与动态代码审计、入侵检测及漏洞识别方面表现优异，为构建更加智能化的网络安全防御系统提供了技术基础。

在医疗人工智能方向，Google还推出了Med-PaLM和Med-PaLM 2系列模型[31]，这些模型针对医学问答、临床辅助决策和医学知识推理进行优化，并在美国医师资格考试（USMLE）等标准化评测中达到甚至超过非专科医生的平均水平。Med-PaLM在解答病症描述、药物交互、影像解读等任务上表现出了强大的专业理解能力，并在医学伦理与患者隐私方面引入了更高标准的安全限制，使其能够在医疗辅助领域中安全部署与实际应用。

PaLM-E是PaLM体系中的一个跨模态分支模型[32]，其中"E"代表Embodied，即具身智能。该模型结合了语言输入、视觉感知与动作控制能力，可用于机器人控制、场景理解与交互规划任务。PaLM-E是将语言模型与现实世界中的感知-行动循环进行深度结合的尝试，推动了通用人工智能模型向物理环境交互领域的拓展。

在2023年底，Google DeepMind推出了被认为是PaLM继任者的Gemini系列模型[33]。这一系列模型是Google继PaLM之后在通用多模态人工智能领域的最新成果，具备同时处理文本、图像、音频等多种模态信息的能力，性能上全面对标甚至超越了OpenAI的GPT-4模型。Gemini的推出标志着PaLM家族从单一语言模型向多模态统一架构演进的完成，也代表Google在基础模型领域的战略重心正逐步向更高集成度、更强通用性的方向转变。