语言模型

【AI编译器入门⑥】端到端编译流程实战：ONNX → TVM → TensorRT全链路本文是「AI编译器」系列的第六篇。前面我们分别讲了前端、中端、后端，今天把它们串起来——从ONNX模型开始，经过TVM中端优化，再选择不同的后端（CUDA/CUTLASS/TensorRT），最终生成可部署产物。本文带你完整走一遍端到端编译链路。

【Plain Language Large Model】【从麦当劳点餐到Redis接入：MCP如何让AI工具集成变简单】流食般投喂课程主题：MCP（Model Context Protocol）技术解析与实战入门核心观点：MCP 不是又一个封闭的收费接口，而是 AI 应用与外部工具之间的“万能 Type-C 口”。它把传统模式下 M×N 的定制化开发，压缩成了 M+N 的标准接入。

AI模型调用笔记

Copilot Fusion：用 Python 跑通模型级联模型接口返回了 HTTP 200，后面的程序却没法继续：JSON 少了字段，修改计划指向项目里不存在的文件，或者答案在输出上限处被截断。

自演化智能体驾驭论文：Self-evolving Agent Harness（arXiv:2610.18813），来自中关村学院，中关村人工智能研究院和中国科学技术大学。

日日大王学编程

LangGraph 基本用法详解：从入门到实战在构建基于大语言模型（LLM）的应用时，我们常常遇到这样的场景：一个问题可能需要多次调用模型才能解决；需要根据模型的输出决定下一步做什么；需要调用外部工具（搜索、数据库查询等）；某些任务需要反复执行直到满足条件。

从零理解大语言模型：AI、LLM、训练成本与手机助手的底层逻辑Build a Large Language Model (From Scratch) 中文版最近我在读 Sebastian Raschka 的《从零构建大模型》（Build a Large Language Model From Scratch）第一章，结合自己实际产生的疑问，把核心概念重新梳理了一遍。

Agentic World Action Models（AW-0）贡献与不足分析论文：Agentic World Action Models（UC Berkeley / NVIDIA / UPenn，2026.10）

把一个 Qwen3.8的聊天模型改造成 JEV 决策模型普通大模型回答"这道题选 A 还是 B"的方式是生成文字：吐出 “答案是 B”，你再拿正则去解析。慢、会格式错、而且它写出来的"我有 80% 把握"是编的，不是真实置信度。

全文 - SGLang: Efficient Execution of Structured Language Model Programs单位： ¹ 斯坦福大学（Stanford University） ² 加州大学伯克利分校（UC Berkeley） ³ 上海交通大学（Shanghai Jiao Tong University） ⁴ 德州农工大学（Texas A&M University） ⁵ 独立研究员（Independent Researcher）

【AI编译器入门④】编译中端：图优化Pass全解析——DCE、常量折叠、算子融合与布局变换本文是「AI编译器」系列的第四篇。如果说前端是"入口"、后端是"出口"，那中端就是AI编译器的"大脑"——它在不改变推理结果的前提下，把计算图变得更干净、更高效。本文带你认识最核心的几类图优化Pass：死代码消除、常量折叠、算子融合、布局转换……以及如何手写一个自定义Pass。

大语言模型 Greedy Decoding，贪心解码 / 贪心搜索大模型生成文字时，每一步直接选当前概率最高的 token（词元），不看后面、不随机采样、不保留多个候选，公式： KaTeX parse error: Can't use function '\(' in math mode at position 18: …t=\arg\max P(w|\̲(̲y_t=\arg\max P(…

郝学胜-神的一滴

AI 编程智能体 16：从零基础搭建到精细化优化很多小伙伴在入门LangChain智能体开发时，都会踩一个致命误区：以为大模型拿到工具后就能自动干活、自动执行任务。

大模型批量生成中的左填充 (left padding)与右填充 (right padding)：从生成正确性到 GRPO 的混合策略这一节首先明确 padding 要解决什么问题、通常怎么做。目标。仅解码器模型和编码器模型都按 batch 计算张量，而一个 batch 内各条序列长度往往不同。padding 的目标是把它们补齐到同一长度，使 batch 可以表示为一个规则张量。设第 iii 条序列长度为 LiL_iLi，batch 内最大长度为 Lmax⁡=max⁡iLi L_{\max}=\max_i L_i Lmax=imaxLi

Ollama 本地部署大语言模型笔记目的：使用 Ollama 在本机下载、运行和管理大语言模型，并通过本地 API 将模型接入自己的应用。适用系统：Windows、macOS、Linux。更新日期：2026-10-27

【AI编译器入门②】TVM架构拆解：Relay、Relax、TIR与Runtime四层结构本文是「AI编译器」系列的第二篇。TVM是学术界和工业界最成熟的AI编译器之一。很多人学TVM时容易被一堆名词搞晕：Relay、Relax、TIR、TE、Schedule、Runtime……它们都是什么？有什么关系？本文把TVM的四层架构拆开讲清楚，帮你建立整体认知。

DeepSeek V4.1 Flash 快速上手与实战指南在本地运行大语言模型曾经是一件门槛极高的事情，需要复杂的依赖管理、庞大的显存资源以及晦涩的命令行操作。但随着推理引擎的迭代和 Python 生态的完善，如今开发者只需几行代码就能在自己的笔记本电脑上启动一个智能对话助手。这种变化不仅让技术验证变得触手可及，更为隐私敏感型应用提供了全新的解决方案——数据无需离开本地，完全在可控环境中完成计算。

【AI编译器入门③】编译前端：ONNX、TorchScript与动态shape处理本文是「AI编译器」系列的第三篇。前端是AI编译器的入口——把各种格式的模型变成统一的IR。听起来像"格式转换"这么简单？才不是！前端还要处理算子映射、动态shape、自定义算子注册……稍有不慎，整个编译链路就会失败。本文把前端的三大核心问题逐一拆解。

OpenRouter周榜复算：164万亿token，输出2.55%，DeepSeek账单占1.4%每周一榜单更新，转发的话术都差不多：“前五全是中国模型”“调用量再创新高”。这周的总量是 164 万亿 token。

长不大的杨瑞杰

OpenCode v2 MCP 与插件体系实战：把数据库、工单和内部 API 安全接入 Agent这是《OpenCode v2 实战：从零搭建企业级 AI 编程助手》专题第 8 篇。上一篇完成了 Skills、Commands 与 Instructions 的分层，本篇继续解决“怎样让 Agent 可靠地连接实时系统”：用 MCP 接入数据库、工单、知识库和内部 API，用 Plugin 承载工具、钩子与集成逻辑，再用权限、鉴权、超时和审计守住生产边界。

Anthropic 官方指南：多智能体不等于更强大Anthropic 官方指南：多智能体不等于更强大多智能体不等于更强大：Anthropic 官方指南完整中译