llm

让 SGLang 按 JSON 回答，怎样少写一些补救代码你让模型把客服工单分成“物流、退款、其他”，后端等着读 JSON。它却先回一句“当然可以，分析如下”，再给结果。有时外面包着代码块，有时把约定好的 refund 写成中文“退款”。

Darling噜啦啦

Text2SQL 实战：自然语言直连数据库，让 AI 自动写 SQL 完成 CRUD 与多表联查不懂 SQL 也能查数据库？"工程部门员工的姓名和工资是多少？"——一句人话，AI 自动生成 SELECT name, salary FROM EMPLOYEES WHERE department = '工程'。这就是 Text2SQL：自然语言 → SQL 的自动翻译。本文从零搭建一个完整的 Text2SQL 项目：SQLite 文件数据库建表 → Schema 工程化提取 → DeepSeek 生成 SQL → CRUD 四种操作实战 → 多表 JOIN + GROUP BY 聚合查询。核心只有一个函

Darling噜啦啦

LLM 结构化输出进阶：withStructuredOutput 一行封装 Tool Call，从流式输出到 MySQL 落地上一篇讲了 LLM 结构化输出的四种方案：JsonOutputParser、fromNamesAndDescriptions、fromZodSchema、Tool Call。其中 Tool Call 是最可靠的——但 model.bindTools 的写法有点"讨巧"，语义不够清晰。LangChain 提供了一行封装的终极方案：model.withStructuredOutput(schema)。本文从 bindTools 到 withStructuredOutput 的进化讲起，覆盖流式结构化输出、XM

"只输出 JSON"根本不够：LLM 结构化输出的坑，我实测了 60 次调用周一凌晨两点，告警群里弹了一条消息：选品接口成功率掉到 41%。第一反应是后端挂了，翻了半天日志，服务进程好好的，就是推荐结果不对。后来把一条出错返回完整打出来才看明白——LLM 给的 JSON 是合法的，字段一个不少，但 reason 全是空字符串，confidence 全是 0。解析层没报错，业务层却拿到一堆"推荐了但说不出为什么推荐"的结果，前端渲染出来全是空白。这玩意儿排查起来特别烦，不是"报错"，是"静默出错"。我盯着那条返回看了半天，才意识到问题出在 LLM 输出这一层。与其继续猜，我干

Funes Agent Memory 实测：Codex 长期记忆召回、旧记忆污染与 no-answer 边界直接答案：Funes 的价值不是给 Claude Code 或 Codex 再塞一段更长的系统提示词，而是把它们已经产生的 session trace 变成一个可搜索、可追溯、默认本地运行的长期记忆层。一个 Agent 上周为什么放弃某个 parser、哪次迁移踩过什么坑、哪个测试结论后来被推翻，都可以通过 recall 找回原始片段，而不是依赖人重新翻聊天记录。

William一直在路上

GPT-6 Astra 研究报告——模型能力、API 演进与 Agent/MCP 生态影响分析研究时间：2026 年 9 月 8 日研究对象：OpenAI GPT-6 Astra 重点视角：模型能力、API、Agent、Tool Calling、MCP，以及对 Kong AI Gateway 的影响

从InMemory内存记忆到文件持久化，手把手教你管理AI的“记忆”全文导读：大模型真的“记忆力”超群吗？No！它只是个金鱼脑。本文将带你从0到1掌握LangChain记忆系统的核心原理，深入剖析内存记忆与文件持久化两种方案的实现细节，并给出生产环境下的避坑指南。读完本文，你将彻底搞懂AI记忆管理的那些事儿。

神秘的猪头

新版 LangChain Agent 核心架构：State、Context、ToolRuntime 与 Middleware上一篇我们已经知道：底层本质依然是：但如果新版 LangChain 只是帮我们把：隐藏掉，那它其实并没有带来多大价值。

Agent 的工具没变，SGLang 缓存为什么没命中？一个客服 Agent 每次调用模型，都带着同一套业务规则和工具说明。你期待第二轮能少算一些，可观察请求时发现，输入依然处理了很久。

大模型 Memory 管理：它凭什么知道你之前说过什么？《AI 知识卡片》第 17 期 · 模型自己什么都不记得，是你每次把整段聊天重新递了一遍换个医生看同一个毛病，你得从头把病史再讲一遍。讲久了你会自己想办法：要么只讲最近这两周的症状，要么随身带一页纸的病历摘要，要么把几年前的检查单收进一个文件夹，医生问到哪一段你就翻哪一段。

换个会话就失忆？拆开 Agent 记忆的 4 层与 4 个流派，附9个坑的自检清单上周五下班前，我和 Claude Code 花了两个小时定下一件事：订单服务不走分布式事务，改用本地消息表 + 补偿任务。理由聊透了，权衡也写进了代码注释。

风控模型说自己 80% 准，却漏掉了 76% 该拦的人：一次把模型评估讲透最近刷手机，谁没收到过几条「您的话费即将欠费，点击链接充值」或者「快递丢件，扫码理赔」之类的短信。我每次都顺手删掉，然后心里嘀咕一句：反诈模型不是号称识别率 90% 多吗，怎么我这一条还能漏到收件箱。

把提示词「编译」成函数：Compile by Training 让大模型退居二线写程序的时候，你有没有遇到过这种函数：规则代码写起来又臭又长，改一个条件就崩；直接调大模型又贵又慢，每调一次都像在点外卖？

持久化与缓存：Agent的数据底座 — 没有持久化的Agent像金鱼记忆，重启就忘早期 self-media-agent 只有内存存储 — 所有人设、选题、生成内容全放在进程内的 dict 里。跑得好好的，但一重启，全没了。辛苦配置的人设、攒了几十天的选题、生成的内容，全归零。

同一份长文问两次，SGLang 怎样少算一遍给模型一份长文，先问“付款条件是什么”，再问“违约责任有哪些”。第二次的问题变了，文档没有变。模型还要把整份文档从头处理一遍吗？

从“记住对话”到“经营组织经验”：TencentDB Agent Memory 的团队级记忆架构、工程取舍与企业落地边界目录一、Agent 记忆为什么正在从“附加功能”变成基础设施（一）长上下文解决的是容量问题，不是记忆治理问题

AINative软件工程

编程凌晨 2:47，某电商团队的 AI 选品功能开始批量出错。告警日志里满是 null——不是程序崩了，是 LLM 返回了一个合法的 JSON，字段都在，但值全是空字符串。

基于Python-use范式的开源Agent相较于其他, 传统 Agent 框架, 更像是那种, 借助低代码拖拽方式的设施, 也就是「机器人编排器」。

程序员于老七

漫话大模型：同一个模型，换台机器效果就不同？——推理引擎这个隐形选手你有没有遇到过这种情况：同一份模型权重，部署到 A 机器上跑得好好的，换到 B 机器上，回答质量明显下降——逻辑变差、输出乱码、甚至直接崩溃。

为什么需要回程闲置保护？对象:opencode-goal 插件的子代理静默死亡巡检(sweep_idle_children + prompt_sent_at 登记)。本文讲清它为什么存在、为什么只能是现在的形状——每一个"只能",背后都是一次真机事故。