llm

京东云开发者

ScoAI：面向供应链的运筹原生决策智能核心观点：可复用学习组件的设计与评价，应以其支持的决策为中心，而非仅考察其输出内容。供应链库存管理需要在需求与供给均存在不确定性的条件下，对补货数量、库存配置和执行时点作出决策。基础模型与智能体已可用于需求估计、供应商信息解析和候选计划生成，但模型输出并不等同于业务决策。只有将其纳入明确的业务目标、仓容与箱规约束、运力条件和执行流程，才可能形成可实施、可检验的运营方案。

Prompt 管理实战：分层、版本与回归上线（附清单）客服 Agent 的提示词散在三个地方，代码里的一个常量、某人的飞书文档、还有一份配置文件。上个月改了一处上线，两天后同事在另一个入口发现还是旧版。想回滚更麻烦，谁都说不清上周的版本长什么样。这篇把提示词的管理规范整理成清单。

轻松西西莱尔

降低成本少花钱，模型调用量砍掉90%：缓存、分级、精简、批处理、流式，5个坑我全踩了一遍先说数字，再讲坑。日均调用 1,000 → 100，Token 消耗降 87%，P95 延迟从 8.2s 降到 1.4s，月账单从 4,832 降到 461。

我把网关限流配置成每秒 100 请求，大促一来照样被打挂，还把别人也拖垮了我之前帮一家做 SaaS 客服系统的公司搭 AI 网关。他们的想法很朴素：给每个租户配一个固定窗口限流，limit 设成 100 请求每 60 秒，换算一下大概是每秒 1.7 个请求，平时够用了吧。问题出在大促那天，商家搞活动，门口一下子涌进来十倍的咨询量。

我把整本接口文档塞进 system prompt，前 3 轮答得准，第 8 轮开始胡说，账单还翻了 4 倍前两篇讲了语义缓存（为什么命中率七成还会答非所问）和向量检索（为什么搜接口限流却捞出缓存段落），这一篇讲一个更贴近日常的场景：你的上下文到底为什么又贵又不准，以及怎么把它压下去。

用户83713320076

感觉终于把复杂的 RAG 技术整理明白了本文以一个虚构的企业技术知识助手为例，串联 16 项 RAG 相关技术。文中的上线情境、用户反馈、故障调查、检索排名和示例数据均为教学模拟，不代表实际部署或评测结果。

Agent Harness 从用到会造：Skill 不是一次 API 调用，是一段会复用的行为这是《Agent Harness 从用到会造》第 9 讲。前面八讲，我们一直在给 Harness 搭骨架：循环、工具、状态、错误处理、上下文管理。到这一讲，要往骨架里塞一件更"软"的东西——Skill。

我对deepseek4.1flash, glm5.3及flash能力的感受与基准测试相同其它高端大模型我没有用过，但 GLM5.3 （156分）， GLM5.3 flash（153分） (通过zcode) Qwen3.8max（157分）, Qwen3.8-flash (这个怎么没测？） DeepSeek V4.1flash （156分）

用户313467214354

learn-claude-code笔记5: TodoWrite — 没有计划的 Agent，做着做着就偏了Agent 接到复杂任务后，执行中容易被测试失败带偏，忘记最初目标；对话越长，工具结果越占上下文，系统提示被稀释，长任务做到前几步就开始即兴发挥。

模型量化部署实战：显存、精度与量化版本怎么选（附显存账）显存不够，是本地部署绕不开的第一道坎。同事发来一个开源模型，宣传语写着 74B 参数压进 24GB 显存，他照着一跑，OOM。把宣传口径拆开算了一遍账，问题不在模型，在没算清楚显存花在哪。

虎鲸不是鱼

【虎鲸进化论 15】上下文工程：长周期项目的接力本文是「虎鲸进化论」系列第 16 篇（正文第 15 篇）。上一篇：代码理解；下一篇预告：故障诊断① —— 从单号到行号。

Koog(6)——会话记忆、历史压缩与执行恢复上一篇文章讲了 Strategy Graph，最后用一个天气出行建议的例子，把节点、子图、条件分支、并行执行和 storage 串了起来。到这里，我们已经能把 Agent 的流程组织清楚了。

LLMOps 架构设计：从零搭建一个 AI 平台，我画了完整的系统图试了6种AI应用开发方式，我靠LLMOps平台把交付效率翻了8倍。我是怕浪猫，这个系列我们干一件大事——从零搭建一个完整的LLMOps平台。不是Demo，不是玩具，是能跑在生产环境的商业级AI应用平台。第1章先把地基打好：搞懂LLM到底是怎么回事，以及我们这个平台要怎么设计。

Cordis 内核：五概念、生命周期与事件本章所有代码均取自官方 docs/cordis-tutorial/，可运行、可复现。要回答的问题：完整版见 00-基础/01-概念词典与原理.md。本章先把词说清楚，后面才好讲机制。

同一个问题问了 14 遍，12 个部署改了答案：LLM 做医疗器械合规判定，确定性先不过关先问一个扎心的问题：如果把同一个评审请求、连同同一批文档，原封不动发给你的 LLM 两次，你敢保证两次回答一字不差吗？大部分人不敢保证，也不觉得这是个问题——模型嘛，有点随机很正常。但在医疗器械行业，这件事是致命的：合规判断要写进质量记录，保存至少十年，审计员要拿着记录去核对「当时专家看到的证据到底是什么」。如果系统今天说「满足」、明天说「不满足」，引用的证据还换了地方，那任何一次变更之后的差异，你都无法分辨是「改动造成的」还是「模型自己抖了一下」。

Agent-智能体工程方法论基于博主自己开发的合同资产底稿智能体的实践经验，提炼为通用 Agent 开发范式。核心命题：如何在自动化、可控性、可追溯、可干预之间找到工程上最优的平衡点。

On-Policy Distillation（OPD）学习文档本文档基于原文《8.2 On-Policy Distillation》以及后续问答整理，只归纳对话中已经出现的内容，不额外编造未讨论的细节。

AI 流式传输工程指南：模型吐出半截 JSON，前端如何边收边渲染？本文是通俗实战版。保留全部工程精华、性能实测对比与跨框架（原生 JS / Vue 3 / React）开箱即用代码，8 分钟即可读完并直接落地到项目中。