后悔没早点读!Sebastian Raschka 新书《从头开始推理》

本文较长,建议点赞收藏。更多AI大模型应用开发学习视频及资料,在智泊AI。

推理模型发展正盛,著名 AI 技术博主 Sebastian Raschka 也正在写一本关于推理模型工作方式的新书《Reasoning From Scratch》。在此之前,他已经出版了多本 AI 领域的著名书籍,包括《Build a Large Language Model (From Scratch)》、《Machine Learning Q and AI》、《Machine Learning with PyTorch and Scikit-Learn》。

近日,他在自己的博客上放出了这本书的第一章,为 LLM 领域的推理进行了入门级的介绍,同时还概述了推断时间扩展和强化学习等技术方法。

本书介绍的方法将引导您完成开发小型但实用的推理模型的过程,用于教学目的。它借鉴了创建 DeepSeek R1、GPT-5 Thinking 等大规模推理模型的方法。此外,本书还包含用于加载现有预训练模型权重的代码。

目前教程正在紧锣密鼓的更新中,目录在这:

第 1 章:理解推理模型
第 2 章:使用预训练的 LLM 生成文本
第 3 章:评估推理模型
第 4 章:利用推理时间缩放改进推理
第 5 章:使用强化学习训练推理模型
第 6 章:提炼推理模型,实现高效推理
第 7 章:改进推理流程和未来方向
附录 A:参考文献和进一步阅读
附录 B:练习解答
附录 C:Qwen3 LLM 源代码
附录 D
附录 E
附录 F:LLM 评估的常见方法

下面的心理模型总结了本书涵盖的主要技术。

硬件要求

本书主要章节的代码设计主要针对消费级硬件,能够在合理的时间范围内运行,无需专门的服务器硬件。这种方法确保了广大读者能够理解本书的内容。此外,如果 GPU 可用,代码会自动利用 GPU。也就是说,第 2-4 章在 CPU 和 GPU 上都能很好地运行。对于第 5 章和第 6 章,如果想要复制本章的结果,建议使用 GPU。

学习资源推荐

如果你想更深入地学习大模型,以下是一些非常有价值的学习资源,这些资源将帮助你从不同角度学习大模型,提升你的实践能力。

本文较长,建议点赞收藏。更多AI大模型应用开发学习视频及资料,在智泊AI。

相关推荐
去伪存真2 小时前
并发量一高就装死?Agent 全链路“防猝死”手册
前端·agent
陈随易3 小时前
Cloudflare 出钱,Vite 团队挑人,44 个维护者分 30 万美元
前端·后端·程序员
liferecords4 小时前
不训练一个参数,把图像编辑器变成视频编辑器:EditVid 的局部-全局拆解术
人工智能·llm·aigc·多模态
SimonKing4 小时前
震惊:怎么回事,opencode一轮对话耗尽免费额度
java·后端·程序员
codigger4 小时前
程序员转型抉择:转 Agent 开发还是转全栈?一份基于招聘市场的冷静分析
程序员·编程·#人工智能·#agent
挖掘狂人4 小时前
程序员转型抉择:转 Agent 开发还是转全栈?一份基于招聘市场的冷静分析
人工智能·程序员·agent
深蓝AI5 小时前
Meta FAIR 开源 e-means:k-means 十分之一的轮数跑出更低损失,已并入 Faiss
人工智能·程序员
爱敲代码的小黄14 小时前
神经网络入门指南:从 CNN、RNN 到 Attention
人工智能·面试·程序员
我登哥MVP15 小时前
DeepSeek-Harness-Super-Agent-学习笔记
人工智能·深度学习·神经网络·机器学习·自然语言处理·agent
小田学Python16 小时前
工具调用:让 Agent 从“说”到“做”
大数据·大模型·agent·ai工具·deepseek