在这个以数据为驱动、技术不断进步的时代,尤洋教授的《实战AI大模型》一书便成为了一个值得关注的资源。
作者尤洋是加州伯克利大学博士,新加坡国立大学计算机系的校长青年教授。他曾创造ImageNet、BERT、AlphaFold、ViT训练速度的世界纪录,相关技术被广泛应用于谷歌,微软,英特尔,英伟达等科技巨头。
他曾获IPDPS最佳论文、ICPP最佳论文、AAAI杰出论文、清华大学优秀毕业生、西贝尔奖学金、ACM-IEEE CS George Michael Memorial HPC Fellowship、LotfiA. Zadeh Prize、ACM Doctoral Dissertation Award Candidate、福布斯30岁以下精英榜(亚洲)、IEEE-CS超算杰出新人奖等。
他曾任职于谷歌、微软、英伟达、英特尔、IBM等国际知名厂商。
《实战AI大模型》不仅汇集了尤洋教授的丰富知识和经验,书中还提供了一个互动社群,旨在帮助读者更好地理解书中的内容并将理论应用于实践。这个社群为读者提供了一个分享经验、讨论问题的平台,并可能得到尤洋教授及其他专业人士的直接指导和建议。
《AI实战大模型》全面覆盖了从基础理论到前沿实践的每一个方面。书中详细介绍了Transformer模型、BERT、ALBERT、T5、GPT系列、Google的PaLM等核心技术,并深入讨论了它们在各种任务中的应用。
例如,Transformer模型,作为当前自然语言处理(NLP)领域的核心,通过其独特的「注意力机制」,使得机器能够更加准确地理解和生成文本。BERT模型通过其双向训练机制,极大地提高了文本处理的准确性和灵活性,被广泛应用于语言理解任务中。
下载当前版本: 完整PDF书籍链接获取,可以扫描下方二维码免费领取👇👇👇
目录
前言
第1章 深度学习中的AI大模型
- 1.1 AI大模型在人工智能领域的兴起
- 1.2 深度学习框架入门
第2章 分布式系统:AI大模型的诞生之所
- 2.1 深度学习与分布式系统
- 2.2 AI大模型训练方法
- 2.3 异构训练
- 2.4 实战分布式训练
第3章 分布式训练:上千台机器如何共同起舞
- 3.1 并行策略基础原理
- 3.2 高级并行策略基础原理
- 3.3 实战分布式训练
第4章 AI大模型时代的奠基石 Transformer模型
- 4.1 自然语言处理基础
- 4.2 Transformer详解
- 4.3 Transformer的变体与扩展
第5章 AI大幅度提升Google搜索质量:BERT模型
- 5.1 BERT模型详解
- 5.2 高效降低内存使用的ALBERT模型
- 5.3 BERT模型实战训练
第6章 统一自然语言处理范式的T5模型
- 6.1 T5模型详解
- 6.2 统一BERT和GPT的BART模型
- 6.3 统一语言学习范式的UL2框架
- 6.4 T5模型预训练方法和关键技术
第7章 作为通用人工智能起点的GPT系列模型
- 7.1 GPT系列模型的起源
- 7.2 GPT-2模型详解
- 7.3 GPT-3模型详解
- 7.4 GPT-3模型构建与训练实战
第8章 兴起新一代人工智能浪潮:ChatGPT模型
- 8.1 能与互联网交互的WebGPT
- 8.2 能与人类交互的InstructGPT模型
- 8.3 ChatGPT和GPT-4
- 8.4 构建会话系统模型
第9章 百花齐放的自然语言模型:Switch Transfomer和PaLM
- 9.1 万亿参数稀疏大模型Switch Transformer
- 9.2 PaLM模型:优化语言模型性能
- 9.3 PaLM实战训练
第10章 实现Transformer向计算机视觉进军的ViT模型
- 10.1 Transformer在计算机视觉中的应用
- 10.2 视觉大模型的进一步发展:Transformer与卷积的融合
- 10.3 ViT模型构建与训练实战
参考文献