ai工程化

技术思考问题23：AI Coding秒交差，谁替它验收？生成者兼任验收者，是假完成的温床我是老李，做后端与平台架构十多年，最近两年团队几乎全员用 AI 辅助写代码、写文档、写测试。最初大家都觉得效率起飞：需求丢进去，几十分钟就能拿到一份「已实现」的代码和一份「已覆盖」的测试清单。

AI Agent 工程化开发实战（一）：Agent 开发的四个层次——积木、运行时、薄壳、套件本系列贯穿一条英文概念主线：Agent Runtime → Harness。本文先建立整个系列的认知地基：为什么我们讲「四个层次」，而不是你更常听到的「三个框架」。

大模型工程化实战（十八）：全息地图——十七篇判据拼成一张「拿处境一查，就知道看哪篇、抓哪个决策、抄哪段代码」的检索图上一篇《金融级 AI 落地》我结尾留了一句话：“金融级那一层判据一个不新造，全是前面立过的；可你手里那堆零件，还缺一张总图。”今天来还这笔账——这也是大模型工程化这个专栏的收官篇：不谈新东西，只回答一句“遇到这个，该看哪篇”。

大模型工程化实战（十七）：金融级 AI 落地——决策可追溯/可复现/可追责/不可抵赖这四件事怎么做上一篇《政企国产化避坑》结尾我留了一句话：“政企国产化讲的是‘东西能不能进来、谁来扛’；金融级讲的是‘每个决策能不能被审计、能不能被追责’——同一套工程纪律，在金融行业要被逼到什么程度。”今天来还这笔账。

大模型工程化实战（十六）：政企国产化避坑——合规/信创名录/私有化运维/国产硬件适配/原厂支持这五道关怎么过上一篇《开源工具箱 30+ 选型地图》结尾我留了一句话：“这张地图上，‘国产化 / 私有化’是一整根约束轴……下一篇《政企国产化避坑》：地图上标了国产化的那些格，背后的坑单独一篇来讲。”今天来还这笔账。

Java的搬运工

【无标题】你大概用过不少健康管理类的App——输入年龄、性别、BMI、血压，再填几项血液指标，它就能给出一个风险评分或健康提示。

漂着的圆木

Agent预算耗尽：加额度还是做成本门禁GitHub 最近把 Copilot 用量触顶后的预算申请做进了管理流程：成员可以发起增加预算的请求，管理员再批准、调整或拒绝。另一项官方更新提供 efficiency、balance、intelligence 三档自动模型选择，用来权衡成本、质量和响应时间。两项变化放在一起看，工程团队需要解决的不只是“额度不够怎么办”，还要明确什么任务值得使用哪一档资源。

大模型工程化实战（十二）：RAG 数据工程底座——采集到入库流水线（离线+在线双链路）第 11 篇《知识库防腐坏》结尾我写下一句判断：粮仓的地基，在第 12 篇。写完那天晚上，我亲手给这句话补了个注脚。巡检报出库里缺 X200 的保修页，我心想补一份文档能有多难：上官网扒 PDF、下载、转文本、肉眼比对有没有重复、手动切成段、跑一遍向量化脚本入库。等我抬头看表，半天没了；更糟的是我忘了记这是哪个版本、这些切片是从哪份料切出来的。第二天打开待补清单，上面又多了三条。那一刻我盯着那张越补越长的单子认了：问题不在我手慢——手再快，也快不过上游出料的速度。我缺的从来不是这一批料，是一条从文档采集

I Am a robert girl

谷歌迈出RSI一大步：从Gemini模型迭代看AI工程化的新风向从今天觉醒,技术赋予每一个人数字生命近期，行业内关于“Gemini模型迭代登顶，谷歌在RSI（相对优势指数，此处代指大模型综合相对竞争力指数）上迈出一大步”的讨论热度居高不下。抛开各种情绪化的“AI军备竞赛”叙事，作为技术开发者，我们更应该关注这些技术跃升背后的工程范式转移。大模型的能力天花板正在被不断推高，但这对于普通开发者、在校学生和转行者意味着什么？我们该如何在这个快速变动的技术周期中找到自己的生态位？

大模型工程化实战（十）：Human-in-the-Loop 反馈闭环——三层清洗打造 Golden Set，拒绝“点赞即真理”第 9 篇《Token 成本六维优化》结尾我说过一句话：再压就伤质量，而伤没伤，评测集说了不算——线上真实用户觉得行不行，得有人把话递回来。我把话递回来的方式很朴素：给每个回答挂上点赞点踩，攒够一批回灌 golden set，让质量底线跟着真实反馈走。上线第一周数据漂亮得不像话——500 条反馈，一片叫好。团队兴冲冲把“被赞最多的输出”当 gold 灌进评测集，第二周评测分数开始说胡话：某个被用户狂赞的回答，人工一查是“顺耳但错”的流畅幻觉。那一刻我明白：把“用户觉得好”直接当“答案是对的”，评测集就废了

打破砂锅问到底007

端侧 Agent：手机本地多 Agent 协作目标读者：要做离线可用、隐私优先、自主可控 Agent 的移动/端侧工程师预计阅读：18～22 分钟主线：配合 <3B 端侧模型，在手机/PC 本地跑「规划 + 工具 + 记忆」多 Agent；以 onnxruntime-genai 为推理底座，给出可运行骨架，并回应 2026-09-03 前沿模型连环宕机后的可靠性刚需关键词：端侧 Agent、Edge Multi-Agent、onnxruntime-genai、Phi-mini、离线推理、本地工具

大模型工程化实战（八）：OTel + LangFuse 全链路 Trace——把网关、护栏、SchemaGate 全部打点串起来，出问题一眼定位到环节凌晨一点，schema_validation_exhausted 这条结构化告警第三次亮起。下游没崩、没有 500，可“为什么偏偏这单走兜底”连我也答不上来：网关日志显示主路超时、重试 2 次兜到 gpt4；护栏日志显示 medium 风险 strip 放行；SchemaGate 日志显示缺“金额”字段、类型错、重试耗尽。三份日志都对，时间戳也对得上，人肉拼了两小时才凑出因果链。全链路 Trace 治的就是这个毛病：可观测不等于“每环节都打日志”，得把第 5 篇《LLM 网关选型》、第 6 篇《OWASP

企业知识库 RAG 从 62% 到 91%:分块策略、混合检索与重排序的调优全记录之前面试时我发现一个尴尬的事实:会调 ChatGPT API 的人太多了,但能把自己做过的项目讲出"实验—对比—结论"的人很少。面试官最爱问的一句话是:“你这个准确率是怎么来的?提升是靠感觉还是靠实验?”

大模型工程化实战（七）：JSON Schema 强约束——模型吐的 json 不合规？schema 校验不通过，重试、兜底、降级一条龙客服 AI 念身份证的事过去一周，脱敏闸挂上了，泄露是不泄露了。可上线第四周，数据组来拍桌子：模型把“金额”吐成字符串 “¥1,234”（schema 要的是 number），“是否退款”整个字段丢了，还自作主张加了个 schema 里根本没有的“运费”。下游 json.loads 直接崩，pandas 读出来一片 NaN。

面向行业Agent的全链路可观测性设计：Trace、Metrics与Feedback闭环我参与构建过多个面向行业的Agent应用——财务对账、合规审查、能源异常分析。这些系统有一个共同点:上线初期运行得"挺好",直到某天业务方拿着一个错误结果来质问,而我们在日志里什么都找不到。

虎虎(_　_)。゜zｚＺ

重构 Agent 思维链：LangGraph 核心架构的深度解构与实战早期的 LLM 应用开发，习惯用 Chain 的线性思维：输入、处理、输出。但真实业务场景远比这复杂——Agent 需要调用工具、根据工具结果决定下一步、甚至在出错时自我修正。线性 Chain 在这些场景下捉襟见肘。

大模型工程化实战（五）：LLM 网关到底怎么选 - 2026 自研 / LiteLLM/Portkey/Kong/One API 全面对比registry 上线第二周，转人工率又爬回来了。这次不是回滚错版本——是回滚了也没用：值班同学把版本指针切回旧版，等了十分钟，曲线没下来。查日志才看清：线上压根没人按版本 ID 路由——三个服务直连 LLM API，各自写各自的重试，key 散在三个环境变量里，只有一处接了 registry 的 get()。这篇是 LLM 网关选型，但我先不摆参数，只回答一个问题：什么规模，选什么网关，才能让“按版本 ID 路由 Prompt”落地。答案先放这儿：registry 管的是资产，网关管的是路由，这层决策必

大模型工程化实战（三）：LLM 灰度发布 + 自动熔断，1% 流量试错、指标劣化自动回滚下午 2:17，灰度发布放到 10%。离线评测全绿，监控面板一片祥和。新版这轮优化了 prompt，让回复更短更快——谁也没想到，“更短”的代价是“不再追问”。2:18，转人工率就破了基线 3 倍——可惜当时没装熔断器，这个信号没人接。2:56 客服甩了张截图：用户问“颜色跟图片差太多，我要退，运费谁出？”，新版回“亲，退货需您自理运费哦”——可色差是描述不符，该商家出运费。3:00 人肉回滚完成，曝光整整 43 分钟、约 2600 次请求。不是没人监看，是监控在“看”、人没在“盯”——等红点飘满屏幕，船

Graph Engineering 深度解析：模型越强，越需要给它画好“地图”大家好，我是小马过河R。上次咱们把Graph Engineering的理论聊了个底朝天，但不少朋友后台私信说：“概念我懂了，代码咋写？”今天咱们就接着上回的话题，把Graph Engineering的六个核心对象，用LangGraph的代码挨个撸一遍。

大模型工程化实战（一）：概率坍塌的救赎 - 给LLM输出加锁凌晨 3:07，我被 P0 报警震醒。监控面板上，订单解析服务过去一小时抛出了第 217 次 JSONDecodeError——不是 217 次请求，是 217 次异常。LLM 吐出的"JSON"里混进了一个没闭合的大括号，还带一句"很抱歉，以下是提取结果"。下游订单系统排着队等这份数据，断了整整 11 分钟。我们守着 temperature=0、写了 30 行 prompt 强调"必须输出合法 JSON"，大模型照样随机抽风。