本文较长，建议点赞收藏。更多AI大模型应用开发学习视频及资料，在智泊AI。
AI领域名家名作，目前大模型的教科书已经至少有三本了，且均已提供公开的PDF版本。
🚩第一本：《大语言模型》
一、内容介绍：
是一本由中国人民大学高瓴人工智能学院教授赵鑫等编著的书籍，旨在为大模型技术的入门读者提供系统性的知识讲解，是一本非常适合大模型技术入门读者的书籍，本书展现一个完整的大模型技术框架和发展路线图，通过系统性的知识讲解和实例分析，帮助读者深入理解大模型技术的核心原理和应用场景。对于高年级本科生、低年级研究生以及从事人工智能领域的技术人员和爱好者来说，本书都是一本不可多得的参考资料。
二、书籍特点：
- 系统性：本书注重展现一个完整的大模型技术框架和发展路线图，帮助读者建立系统性的知识体系。
- 实用性：通过大量的实例和案例分析，将理论知识与实际应用紧密结合，提高读者的实践能力。
- 前瞻性：本书不仅介绍了当前大语言模型的最新进展，还探讨了未来的发展趋势和挑战。
三、书籍适用人群
-
高年级本科生：对于具有深度学习基础的高年级本科生来说，本书是一本很好的入门读物，可以帮助他们快速掌握大模型技术的核心原理和应用方法。
-
低年级研究生：对于低年级研究生来说，本书可以作为他们深入研究大模型技术的起点，为他们后续的科研工作打下坚实的基础。
-
技术人员和爱好者：对于从事人工智能领域的技术人员和爱好者来说，本书也是一本不可多得的参考资料，可以帮助他们了解大模型技术的最新进展和应用场景。
🚩第二本：《大模型基础》
一、内容介绍：
《大模型基础》是一本由浙江大学DAILY实验室的毛玉仁研究员和高云君教授领衔撰写的大模型领域教材。本书包含语言模型基础、大语言模型架构演化、Prompt工程、参数高效微调、模型编辑、检索增强生成等六部分内容。 本书共9章，深入探讨了大模型的工作原理和使用方法-一提示工程，并研究了提示工程在电子商务、创意营销、内容创作、办公和编程等场景中的应用，以及如何赋能软件生态的发展等。
二、书籍特点：
紧跟技术前沿：书中不仅涵盖了大模型的基础知识，还介绍了最新的技术进展和研究成果，使读者能够紧跟技术前沿。
易读性：每章内容都以一种动物为主题进行讲解，如以"猫"为主题介绍Transformer架构，使复杂的技术概念更加生动易懂。
全面系统：内容涵盖了传统语言模型、大语言模型的架构、提示工程、高效参数设置、模型编辑以及搜索增强生成等关键主题。对每个主题都进行了深入的探讨和分析，帮助读者建立全面的知识体系。
三、书籍目录
🚩第三本：《大规模语言模型：从理论到实践》
一、内容介绍：
《大规模语言模型：从理论到实践》是由复旦大学计算机科学技术学院张奇教授领衔的团队编写的专业书籍，是一本系统、实用、权威且易读的大语言模型教材，旨在帮助读者深入理解大语言模型的原理，并提供实际操作的指导和案例。对于希望深入了解大语言模型原理和应用的读者来说具有重要的参考价值。
二、为什么要阅读这本书
大规模语言模型：从理论到实践》对大语言模型感兴趣的读者提供入门指南，也可作为高年级本科生和研究生自然语言处理相关课程的补充教材。
掌握大语言模型相关技术，给自己一个深入研究大语言模型的实践机会。
三、本书架构
基础理论部分:介绍LLM的基础理论知识
- 语言模型的定义
- Transformer结构
- 生成式预训练语言模型GPT
- 大语言模型的结构
- 注意力机制优化
- 实践:基于HuggingFace的预训练语言模型
- 实践:以LLaMA使用的模型结构为例
预训练部分:围绕LLM预训练数据和分布式训练展开
- 数据来源
- 数据预处理方法
- 开源数据集
- 模型分布式训练
- 数据并行
- 流水线并行
- 模型并行
- Zero系列优化方法
- 实践:以DeepSpeed为例，进行LLM预训练
- 实践思考分享
- 难点:如何构建训练数据，如何高效地进行分布式训练。
指令理解部分:围绕LLM有监督微调、强化学习展开
- 提示学习
- 语境学习
- 高效模型微调(LORA、Delta Tuning等)
- 有监督微调数据构造方法
- 模型上下文窗口扩展
- 指令数据的构建
- 强化学习基础
- RLHF
- 奖励模型
- 近端策略优化
- 实践:DeepSpeed-Chat SFT
- 训练类ChatGPT系统MOSS-RLHF
- 实践思考分享
- 难点:如何构建训练数据，包括训练数据内部多个任务之间的关系、训练数据与预训练之间的关系及训练数据的规模。如何解决强化学习方法稳定性不高超参数众多及模型收敛困难等问题。
模型应用部分:围绕LLM的应用和评估展开
- 思维链提示
- 由少至多提示
- LangChain技术
- Agent
- 多模态大模型
- LLM评估体系
- LLM评估方法
- LLM评估实践
- LLMEVAL
- 实践思考分享
学习资源推荐
如果你想更深入地学习大模型，以下是一些非常有价值的学习资源，这些资源将帮助你从不同角度学习大模型，提升你的实践能力。
本文较长，建议点赞收藏。更多AI大模型应用开发学习视频及资料，在智泊AI。