llm

搜「怎么做接口限流」，向量库却把「怎么做缓存」的段落递了上来先说我踩的坑。我给团队搭了个内部知识库问答，底层用向量库做语义检索。有天同事搜「怎么做接口限流」，系统却把「怎么做缓存」的几段话排在了最前面。他当场发飙：你这检索是不是坏掉了，我问限流你给我缓存干什么。

语义缓存：命中率上去了，却把问「今天天气」的人答成了「明天天气」我上个月给一个问答接口加了层语义缓存，本意很简单：用户老拿差不多的问法反复问，与其每次都调大模型花钱花时间，不如把答过的存起来，意思相近就直接返。上线第一周命中率看着漂亮，账单也下来了。直到有个用户问「北京明天天气怎么样」，系统回了「北京今天晴，最高 22 度」那条缓存，对方一头雾水。

ai-agent教程-12-生产部署本章目标:把 Agent 从「demo」送进「生产」——服务架构、可观测性、可靠性、扩展与并发、成本控制、人机协作、以及 CI/CD 与上线流程。

LLM 的分词（Tokenization）详解：文本如何变成 tokenLLM 的分词（tokenization），就是把文本切分成称为 token 的小块、再把每个 token 转换成模型能够处理的数字的过程。

流式输出实战：SSE 解析、chunk 拼装与断流重试流式是体验工程的第一优先级，首 token 延迟比总时长更影响体感。这篇把流式接入的工程细节补齐，与语音篇的流水线、扛量篇的限流配着看。

武雄（小星Ai）

Hermes Agent 周报：v0.21.6 发布，多账号连接器上线，6 项安全修复📢 这是「Hermes Agent 周报」，记录 10月5日-10月11日的项目动态。每周一更新，帮你省下刷 GitHub 的时间。觉得有用就收藏+关注，不错过每周更新 👋

围炉聊科技

Windows-MCP 拆解与实测：AI 操作 Windows 这件事——智能体基建系列上一期我把 Computer Use 的底层机制捋了一遍，结论是「Accessibility Tree 优先 + 视觉兜底」正在成为生产可靠的方向。

大模型技术全景(二十六)：上下文窗口的大小边界与上下文腐烂📚 本文收录于「流浪」的系列专栏🏠 博客主页：流浪｜ 📝 原创首发于 CSDN上一篇用三个常见问题收了 RAG 的尾，其中第一个问题落在一句话上：长上下文解决的是「一次能读更多材料」，RAG 解决的是「从海量知识里筛选相关信息」，两者不是一回事。这句话要站得住，得把上下文窗口本身拆开看——它到底有多大、里面装了些什么、为什么不能无限做大、塞满了会发生什么。本篇就把这块工作区从里到外讲一遍，最后再往下追一层：为什么窗口越大，里面的信息反而越容易「烂掉」。

LangGraph4j之八：条件边与动态路由这一篇我们拆条件边和动态路由，下一篇之九会从第一性原理把自定义状态类型和自定义通道讲透。我第一次用 LangGraph4j 写客服分流的时候，脑子里的图是这样的：用户留言进来，先分类，再按类别走不同的处理分支。我当时想当然地写了三条固定边，从分类节点分别连到三个处理节点。结果一编译就报错，说一个源节点不能同时挂多条普通边。

LangGraph4j之九：自定义状态类型与自定义通道上一篇之八用了一个最小自定义状态 MyState 来承载路由结果，这一篇就把那个状态本身拆开：它的三个通道到底怎么声明、为什么 messages 能累积成历史、除了覆盖和追加还有没有第三种玩法。

MCP Server Boundary Audit ReportThis report summarizes a boundary and security audit of MCP server implementations, focusing on access control, path validation, and tool support. The audit reveals critical gaps in several implementations, particularly around sibling directory access, sy

虎鲸不是鱼

【虎鲸进化论 09】活下去：自启、守护、探活本文是「虎鲸进化论」系列第 10 篇（正文第 09 篇）。上一篇：起源；下一篇预告：自举 —— 它第一次改自己的代码（含升级失败自动回滚）。

【随笔】LLM裁判如何打分：先写评分标准，再用人工案例校准上一篇用固定案例核对Agent调用的工具名称和参数。继续往下看，工具调用正确，并不代表回答已经解决用户的问题。

用户831455098031

如一 Agent 架构解读（二十一）：SubAgent 体系——封装、闭环与可交互前二十篇拆完了单 Agent 的 internals：loop、上下文、压缩、工具、记忆、缓存。这些文章共享一个前提——一个 Agent 就是一个上下文窗口、一档模型、一条串行执行线。这篇讲 SubAgent：先分析这个前提在复杂任务下的结构性约束，再对齐业界各家的实现取舍，最后讲如一的受管 SubAgent 体系怎么设计。

为什么 LLM 会产生幻觉？——token 级别的解释LLM 之所以会产生幻觉，是因为它一次只写一个 token（一小块文本）——每次都挑一个"看起来接下来最可能出现"的 token。当它不知道正确的 token 是什么时，它也必须挑一个，于是一个看起来信心十足的猜测就这么出炉了。

LangGraph Checkpointer 封装（下）：with 的双层上下文与 MemorySaver 为什么不用 with对 SqliteSaver.from_conn_string() 来说：__enter__ 打开 sqlite 连接并构造 Saver，__exit__ 关闭连接——with 就是这个连接的生命周期边界。

虎鲸不是鱼

【虎鲸进化论 07】给 AI 装上手和脚：MCP 协议与“给 Agent 用的工具“设计本文是「虎鲸进化论」系列第 8 篇（正文第 07 篇）。上一篇：知识资产化；下一篇预告：起源 —— 一个打包工具怎么长成 Agent。

for_ever_love__

上下文工程：比提示词工程更重要的事提示词工程问的是"这句话该怎么说"。上下文工程问的是"该给模型看什么"。后者对效果的影响，往往比前者大一个数量级。

Meta 掀桌了：号称「美国最强开源模型」的 Muse Spark Open 开放下载，816B MoE + 1M 上下文💡 一句话总结：Meta 把旗舰模型 Muse Spark Open 的权重直接开放下载——816B 总参/42B 激活、1M 上下文、原生多模态、主打编码智能体，vLLM/SGLang 第一天就能跑。对做自托管和 agent 开发的人是实打实的弹药；但「大型托管商需另行授权」的许可证条款和还没出的第三方评测，提醒你先别急着下定论。

ai-agent教程-09-MCP模型上下文协议本章目标:讲透 MCP(Model Context Protocol)是什么、解决什么问题、协议怎么工作、客户端与服务端如何实现、有哪些传输方式、安全边界在哪; 最后通过 mini-agent 的 MCP 客户端把协议变成可运行代码。