llm

任务规划器的三种范式对比:ReAct、Plan-and-Execute 与 Tree-of-Thought 在真实业务中的取舍上一篇文章讲 Function Calling,解决的是"模型如何调用工具";但工具再多,没有规划能力,Agent 就只能做"一次调用"的简单问答。真正复杂的业务诉求——“帮我对比三家供应商的报价并生成采购建议”——需要 Agent 自己拆解成多个子任务、决定执行顺序、根据中间结果调整后续步骤。这个"拆解与决策"的过程,就是任务规划。

32GB 显存，凭什么跑 56GB 大模型？从 Shared Memory 到 AI 异构内存架构从 Shared GPU Memory、CPU Offload 到 GGUF，看懂消费级硬件如何突破显存限制。

为什么每个人最终都会使用 Agent？从 LLM 到 Agent，看懂 AI 为什么一定会走向执行时代作者：吴佳浩Alben撰稿时间：2026.8.2更新时间：2026.8.4先问一个问题。如果 ChatGPT、Claude 已经这么聪明——能写代码、能写论文、能通过各种专业考试——为什么 OpenAI、Anthropic、Google、微软,几乎在同一个时间窗口,不约而同地把研发重心转向了同一个方向:Agent?

🎮 豆包完胜 DeepSeek ？！零玩家竞技场，AI Agent 专属对弈！“斗之力，三段！”望着测验魔石碑上面闪亮得甚至有些刺眼的五个大字，豆包面无表情，唇角有着一抹自嘲，紧握的手掌，因为大力，而导致略微尖锐的指甲深深的刺进了掌心之中，带来一阵阵钻心的疼痛……

加了 1 个参数，GLM-5.3-Flash 便宜了 6.3 倍我们问了 GLM-5.3-Flash 一个非常简单的问题：SSH 默认使用哪个端口。它用了 625 个输出 Token，最后才给出答案：“22”。

图像生成为什么需要独立的 Gateway 抽象：参数、重试与幂等设计调用方看到一次 generateImage()，供应商侧却未必只收到一次请求。AI SDK 的官方文档明确说明：当 n 超过模型单次生成上限时，SDK 会自动拆成多次并行调用；API 还提供 maxRetries，当前参考页给出的默认值是 2。一个看似原子的 SDK 调用，已经可能展开成多次有独立费用和失败状态的供应商 Attempt。

微调和 RAG 各自的优劣势是什么？要厘清 RAG 与微调的分水岭，首先必须理解大语言模型（LLM）内部两种截然不同的记忆载体微调（Fine-Tuning）：本质是在修改模型的参数化记忆。试图通过梯度下降，将海量的行业专业知识直接“烧写”到模型的神经元权重中。

RAG 接个向量库就完事？从切块到重排的 7 步流水线，我替你踩了 8 个深坑这篇默认你写过 LLM 应用、调过 embedding、被"答非所问"和"一本正经胡说八道"折磨过。我们直接从一个上线后老板拿着错误答案找上门的故障拆起，把它归到几个机制性真凶，再给你一份上线前能直接照着过的 8 坑清单。最后你会发现：RAG 早就不是"数据库查询"，而是一门把证据动态喂给模型的上下文管理学科。

LightRAG Query Pipeline 核心架构与源码设计分析报告（2）在完成 LightRAG 整体系统架构、Document Index Pipeline、Storage 抽象以及 Query Pipeline 总体流程的分析之后，本阶段开始进入 LightRAG 查询链路的核心源码。

得物小摊 AI Native 演进实录：用 Harness 构建可控 AI 交付得物小摊是一个从 0 到 1 孵化的创新业务。在一段时间里，我需要同时负责 H5、运营后台、Node 网关和 Go 服务的设计、实现、联调和交付。

我用 Python 做了一个 Token 计算器：一段文字到底消耗多少 Token？前面我们介绍过：大语言模型并不是直接处理我们看到的文字，而是先把文本切分成 Token。理解这个概念之后，很快就会遇到一个实际问题：

从对话记忆到状态控制平面：长程 Agent 的状态治理工程目录一、范式迁移：长程 Agent 的瓶颈正在从“会不会做”转向“能不能持续正确地做”（一）Prompt 优化的边际收益正在下降

LocalAI、LocalAGI、LocalRecall官网，Go+TypeScript等语言实现、开源（GitHub，48.8K Star，4.4K Fork）OpenAI替代方案，无需高端GPU，消费级硬件在本地环境中运行LLM，功能涵盖生成文本、音频、视频、图像，语音克隆等。

【AI】大模型本地部署与量化：Ollama、transformers、llama.cpp实践部署即在本地电脑中下载并运行模型，就像使用网络上的大模型API一样，但区别在于模型是运行在本地的，不收费也不会泄露信息。但模型可能很大，本地电脑可能会内存不足，这时候就需要量化来尝试缩小模型存储空间，同时尽量避免模型性能损失。

MCP 从“能连工具”到“像 Web 一样部署”——无状态核心、扩展框架与企业级 Agent 基础设施的真正分水岭目录一、真正的变化不是“多了几个能力”，而是协议的默认世界观变了（一）五次规范迭代，构成了一条清晰的生产化路线

Darling噜啦啦

LLM 记忆管理三剑客：截断、总结、检索，彻底搞懂 Agent 的 Memory 系统大模型是无状态的——每次对话都像第一次见面。要让 AI 记住你说过的话，就需要 Memory 系统。但简单地把所有对话塞进 prompt 会触发两个问题：上下文窗口爆了，Token 账单爆了。本文从 LangChain 的 InMemoryChatMessageHistory 出发，逐级深入三种存储方式（内存 / 文件 / 向量数据库）和三种管理策略（截断 / 总结 / 检索），附完整代码演示和 token 精确计算。建议收藏后动手实践。

大模型的回答是怎么一个字一个字蹦出来的？前端流式输出解析你有没有好奇过：问 ChatGPT 一个问题，它的回答是"一个字一个字往外蹦"的，而不是等几十秒一次性甩出一大段。这背后到底藏着什么前端技术？今天我们就从 0 到 1 拆解它。

《牛来》票房涨 1000 倍是真的吗？——2026暑期档 124 亿里的数学这个夏天我朋友圈被同一部动画刷屏：《牛来》。零宣发、被吐槽"建模粗糙到抽象"，首日票房只有 3420 元。结果到 8 月底，累计票房传出 1260 万元，猫眼预测终值 9000 万元，媒体齐刷刷地写"暴涨 1000 倍"。这中间还有 18 部影片破亿、4 部破 10 亿，《牛来》直接成了"史上最乱暑期档"里最大的变量。

如何设计多 Agent 的协作与动态切换机制？摘要：随着大语言模型（LLM）从单任务处理走向复杂跨领域业务求解，单一 Agent（单体智能体）由于 Prompt 膨胀、工具过多导致的召回稀释（Tool Dilution）、上下文污染（Context Pollution）以及规划深度不足，正迅速触碰到性能天花板。

程序员三明治

【体验毛坯房】Deep Harness 入门教程我也来安装使用下。安装前，先来搞懂DeepSeek Harness到底是什么？我们都知道下面这个公式：