语言模型

从零理解大语言模型：AI、LLM、训练成本与手机助手的底层逻辑Build a Large Language Model (From Scratch) 中文版最近我在读 Sebastian Raschka 的《从零构建大模型》（Build a Large Language Model From Scratch）第一章，结合自己实际产生的疑问，把核心概念重新梳理了一遍。

Agentic World Action Models（AW-0）贡献与不足分析论文：Agentic World Action Models（UC Berkeley / NVIDIA / UPenn，2026.10）

把一个 Qwen3.8的聊天模型改造成 JEV 决策模型普通大模型回答"这道题选 A 还是 B"的方式是生成文字：吐出 “答案是 B”，你再拿正则去解析。慢、会格式错、而且它写出来的"我有 80% 把握"是编的，不是真实置信度。

全文 - SGLang: Efficient Execution of Structured Language Model Programs单位： ¹ 斯坦福大学（Stanford University） ² 加州大学伯克利分校（UC Berkeley） ³ 上海交通大学（Shanghai Jiao Tong University） ⁴ 德州农工大学（Texas A&M University） ⁵ 独立研究员（Independent Researcher）

【AI编译器入门④】编译中端：图优化Pass全解析——DCE、常量折叠、算子融合与布局变换本文是「AI编译器」系列的第四篇。如果说前端是"入口"、后端是"出口"，那中端就是AI编译器的"大脑"——它在不改变推理结果的前提下，把计算图变得更干净、更高效。本文带你认识最核心的几类图优化Pass：死代码消除、常量折叠、算子融合、布局转换……以及如何手写一个自定义Pass。

大语言模型 Greedy Decoding，贪心解码 / 贪心搜索大模型生成文字时，每一步直接选当前概率最高的 token（词元），不看后面、不随机采样、不保留多个候选，公式： KaTeX parse error: Can't use function '\(' in math mode at position 18: …t=\arg\max P(w|\̲(̲y_t=\arg\max P(…

郝学胜-神的一滴

AI 编程智能体 16：从零基础搭建到精细化优化很多小伙伴在入门LangChain智能体开发时，都会踩一个致命误区：以为大模型拿到工具后就能自动干活、自动执行任务。

大模型批量生成中的左填充 (left padding)与右填充 (right padding)：从生成正确性到 GRPO 的混合策略这一节首先明确 padding 要解决什么问题、通常怎么做。目标。仅解码器模型和编码器模型都按 batch 计算张量，而一个 batch 内各条序列长度往往不同。padding 的目标是把它们补齐到同一长度，使 batch 可以表示为一个规则张量。设第 iii 条序列长度为 LiL_iLi，batch 内最大长度为 Lmax⁡=max⁡iLi L_{\max}=\max_i L_i Lmax=imaxLi

Ollama 本地部署大语言模型笔记目的：使用 Ollama 在本机下载、运行和管理大语言模型，并通过本地 API 将模型接入自己的应用。适用系统：Windows、macOS、Linux。更新日期：2026-10-27

【AI编译器入门②】TVM架构拆解：Relay、Relax、TIR与Runtime四层结构本文是「AI编译器」系列的第二篇。TVM是学术界和工业界最成熟的AI编译器之一。很多人学TVM时容易被一堆名词搞晕：Relay、Relax、TIR、TE、Schedule、Runtime……它们都是什么？有什么关系？本文把TVM的四层架构拆开讲清楚，帮你建立整体认知。

DeepSeek V4.1 Flash 快速上手与实战指南在本地运行大语言模型曾经是一件门槛极高的事情，需要复杂的依赖管理、庞大的显存资源以及晦涩的命令行操作。但随着推理引擎的迭代和 Python 生态的完善，如今开发者只需几行代码就能在自己的笔记本电脑上启动一个智能对话助手。这种变化不仅让技术验证变得触手可及，更为隐私敏感型应用提供了全新的解决方案——数据无需离开本地，完全在可控环境中完成计算。

【AI编译器入门③】编译前端：ONNX、TorchScript与动态shape处理本文是「AI编译器」系列的第三篇。前端是AI编译器的入口——把各种格式的模型变成统一的IR。听起来像"格式转换"这么简单？才不是！前端还要处理算子映射、动态shape、自定义算子注册……稍有不慎，整个编译链路就会失败。本文把前端的三大核心问题逐一拆解。

OpenRouter周榜复算：164万亿token，输出2.55%，DeepSeek账单占1.4%每周一榜单更新，转发的话术都差不多：“前五全是中国模型”“调用量再创新高”。这周的总量是 164 万亿 token。

长不大的杨瑞杰

OpenCode v2 MCP 与插件体系实战：把数据库、工单和内部 API 安全接入 Agent这是《OpenCode v2 实战：从零搭建企业级 AI 编程助手》专题第 8 篇。上一篇完成了 Skills、Commands 与 Instructions 的分层，本篇继续解决“怎样让 Agent 可靠地连接实时系统”：用 MCP 接入数据库、工单、知识库和内部 API，用 Plugin 承载工具、钩子与集成逻辑，再用权限、鉴权、超时和审计守住生产边界。

Anthropic 官方指南：多智能体不等于更强大Anthropic 官方指南：多智能体不等于更强大多智能体不等于更强大：Anthropic 官方指南完整中译

【CUDA编程入门⑧】性能分析工具链：Nsight、Profiler与Roofline模型本文是「CUDA编程与HPC高性能计算」系列的第八篇。性能优化不能靠猜，得靠数据——这是HPC工程师的基本素养。CUDA领域有一套成熟的性能分析工具链，从系统级到kernel级、从CPU-GPU交互到指令级，层层递进。本文带你认识最核心的几个工具：Nsight Systems、Nsight Compute、PyTorch Profiler，以及性能分析的"指南针"——Roofline模型。

吃鱼的灰太狼

Qwen-image-2.1 本地部署保姆级教程 | 首页技术教程很多人部署 ComfyUI，卡住的并不是模型下载，而是最后那一步：模型明明在目录里，节点也能拖出来，运行时却接连报错。

Agent与大语言模型的集成本文深入探讨Agent与大语言模型(LLM)的集成方法，包括API调用、上下文管理、提示词工程和工具调用。通过理论讲解和代码示例，帮助读者理解如何将LLM的强大能力融入Agent系统。

程序猿编码

不依赖 vLLM/llama.cpp：一套面向学习的 DeepSeek-R1 CUDA 推理实现如果你是一个对大模型推理底层原理感兴趣的后端工程师，大概率有过这样的困惑：用 vLLM 部署很快，用 llama.cpp 量化推理也很方便，但你对"每一个 token 到底在 GPU 上经历了什么"依然是一头雾水。框架帮你封装了太多东西——算子怎么调度、内存怎么管理、kernel 怎么 launch，这些全被藏在 C++ 模板和 CUDA 核函数里面，你只能看到输入输出，看不到中间过程。

KDD 2026 | （2月轮）时空数据(Spatial-Temporal)论文总结时空【下】（人群移动，城市科学（资源调度，）KDD 2026于2026年8月9日至13日于韩国济州（Jeju, Korea ）正在举行。本文总结了KDD 2026（February Cycle）上有关时空数据（Spatial-Temporal）的相关论文。