医疗AI基础2026-构建可靠智能体的编程路径（上）

医疗AI基础：构建可靠智能体的编程路径

Medical AI Foundations: Engineering Reliable Agents ------ 编程范式、可靠性工程、技术栈与治理的系统性研究

摘要（Executive Summary）

本研究系统回答一个核心问题：在医疗这一高风险领域，工程团队应当沿何种编程路径构建可靠的 AI 智能体（Agent）？ 基于 2024--2026 年同行评审论文、官方政策文件与可核验行业证据，我们得出四条核心结论。

结论一：智能体范式已被证实优于静态模型，但"能用"与"可靠"之间仍横亘数量级差距。 NEJM AI 发布的 MedAgentBench 显示，最强模型（Claude 3.5 Sonnet v2）在 FHIR 真实病历环境中完成 300 项临床任务的成功率仅 69.67%，且"查询类"任务（85.33%）与"行动类"任务（54.00%）表现严重失衡【A】------这意味着凡是触碰医嘱、处方等"写操作"的场景，必须默认模型不可独立信任。

结论二：可靠性不是模型的属性，而是工程系统的属性。 证据链显示，幻觉率可通过工程手段压缩一个数量级：结构化提示可将临床摘要幻觉率从 64.1% 降至 43.1%，自反式 RAG（Self-Reflective RAG）可进一步降至 5.8%，叠加分层护栏（输入轨/检索轨/输出轨/人审轨）与弃权机制后，可在生产环境达到可控阈值【A/B】。

结论三：编程路径的选型逻辑正在收敛为"确定性编排 + 声明式工具协议 + 分层护栏"。 编排层上，LangGraph 的图驱动确定性范式在医疗等受监管场景中优于自由多智能体对话；工具层上，MCP（Model Context Protocol）+ FHIR 正在成为智能体访问病历的事实标准接口；模型层上，"API 旗舰模型 + 开源自部署医疗基座（如 MedGemma、DeepSeek）"的双轨制成为中国医院的主流配置【A/B】。

结论四：中国已形成"政策---试点---标准"三位一体的落地窗口。 五部门《关于促进和规范"人工智能+医疗卫生"应用发展的实施意见》（国卫办规划发〔2025〕30号）明确了 2027 年"专病垂直大模型与智能体应用"与 2030 年"基层全覆盖"的目标【A】；DeepSeek 本地化部署已在多家三甲医院跑通"数据不出院"路径，心电诊断效率提升 50% 以上、护理操作规范性提升 30% 等量化收益得到报道【B】。医院的理性策略是：以文书类/编码类低风险场景切入，沿成熟度阶梯逐级向诊疗核心推进。

引言：从静态模型到可靠智能体
智能体的解构：认知架构四要素
可靠性工程：五层防御体系
评测基准：从静态问答到动态工作流
编程路径：技术栈分层选型
参考实现：一条可落地的工程主线
安全治理与监管框架
中国本土落地：案例、路径与窗口
成熟度模型与实施路线图
挑战、局限与未来方向
结论与行动建议
可核验引用清单

一、引言：从静态模型到可靠智能体

1.1 问题的提出

医疗人工智能正在经历一次根本性的范式转移：从"回答问题的模型"（model that answers）转向"完成任务的智能体"（agent that acts）。传统医疗大模型（如早期的问答系统）只处理静态文本输入并输出孤立回答；而 LLM 智能体（LLM-based Agent）能够主动解释高层指令、规划行动序列、调用外部工具（病历接口、临床计算器、知识图谱）、维护跨轮次记忆，并在迭代中修正自身行为【A】。Stanford 团队在 NEJM AI 的表述极为凝练："聊天机器人只会说，智能体会做"（Chatbots say things. AI agents can do things.）------后者可以直接从电子病历中检索患者信息、推理，并通过 FHIR 接口下达检查与用药医嘱【A】。

这一转变的临床意义是双重的。一方面，智能体有望承接文书负担、缓解人力短缺：其可在复杂多步临床工作流中以最小监督自主执行任务，这正是行政负担与人员短缺时代的核心痛点【A】。另一方面，"会行动"意味着错误的后果从"错误的一句话"升级为"错误的一次操作"。NEJM AI 的作者团队明确指出：在医疗这一高风险世界中，智能体自主性是"一个高得多的门槛"（a much higher bar for autonomy）【A】。技术圈"快速迭代、容忍破坏"（move fast and break things）的伦理在医疗中不成立【B】。

因此，本报告标题中的"可靠"不是修辞，而是医疗 AI 的第一性约束。我们将"可靠智能体"操作化定义为同时满足以下四项性质的系统：(1) 正确性 ------输出内容有据可查、幻觉率低于业务容忍阈值；(2) 安全性 ------不产生有害建议，高风险操作必须经过人类确认；(3) 可审计性 ------每一次决策可追溯到具体输入、检索证据与模型版本；(4) 可复现性------相同输入产生可辩护的一致输出【B】。这四项性质共同构成本报告的分析主线。

1.2 研究范围与方法论

本报告聚焦"编程路径"（Engineering/Programming Path），即构建医疗智能体过程中可由工程团队主动决策的技术环节：认知架构设计、可靠性工程、评测体系、技术栈选型、系统集成协议与部署治理。临床有效性验证、药物研发智能体等主题仅在必要处涉及。研究窗口以 2024 年 1 月至 2026 年 9 月的文献与政策为主。

证据分级框架如下：**【A】政策原文、官方文件、同行评审论文（含 NEJM AI、ACL、MDPI、Cell 子刊等）； 【B】行业报告、权威媒体、机构白皮书、有明确发布主体的技术博客； 【C】**框架归纳、单点案例、前瞻推断。同一结论若有 A/B 互证则标注 A/B；仅单点案例支撑的结论一律降级并注明样本偏差。所有 A/B 级来源在文末"可核验引用清单"中附 URL，读者可逐条核验。本报告不使用任何无法溯源的量化数字。

1.3 为什么是现在：三股力量的交汇

医疗智能体在 2024--2025 年的爆发并非偶然，而是三股力量同时成熟的结果。其一，基础模型能力跃迁。 GPT-4、Claude 3.5、Gemini 1.5 Pro 等模型支持多模态推理、长上下文与函数调用（function calling），使 LLM 从"文本理解器"变为可承担规划与协作的"认知骨干"（cognitive backbone）【A】。其二，工具生态标准化。 智能体框架（LangGraph、AutoGen、CrewAI 等）与工具协议（MCP、FHIR API）的成熟，大幅降低了编排复杂系统的工程门槛【B】。其三，需求侧政策窗口开启。 中国在 2025 年连发多份文件推动"人工智能+医疗卫生"，美国 FDA 则在 2024 年 12 月最终化 PCCP（预定变更控制计划）、2025 年 1 月发布 AI 设备全生命周期（TPLC）草案指南，监管框架与产业节奏首次形成共振【A】。

研究热度可以佐证：截至 2025 年，医疗智能体相关论文数量较 2024 年全年增长超过 130%；一篇覆盖 200 余篇文献的综述指出，研究重点正从文本与影像扩展到时间序列信号（可穿戴设备）与基因组学，知识图谱与强化学习成为新的技术焦点【B】。另一篇 ACL 2025 综述从 300 篇候选中筛选 80 篇、最终纳入 60 篇，系统确认了智能体范式在临床决策支持、病历文书、培训模拟与流程优化四大方向的应用版图【A】。一个覆盖 2023--2025 年 72 项研究的"AI 医院"综述则进一步将其整合为完整的研究与实践平台愿景【B】。

二、智能体的解构：认知架构四要素

2.1 LLM 与智能体的本质区别

按照经典人工智能定义，智能体是"感知环境并据此行动"的实体【A】。LLM 智能体在静态语言模型之上叠加了三种能力：外部知识检索、任务规划与工具调用 ，从而能在真实应用中执行结构化决策【A】。用一个临床例子说明差异：面对"社区获得性肺炎（CAP）的住院治疗方案是什么"这一问题，传统 LLM 用文本推理加指南知识作答即可；而智能体接到"为该患者准备个性化治疗方案"的高层指令后，会计算个体化风险评分、评估铜绿假单胞菌感染风险因素、分析药物相互作用与过敏史、纳入既往培养数据与本地抗菌谱，最后将抗菌药物与支持治疗医嘱排入队列等待医生签署【A】。前者是知识检索，后者是工作流执行------这一差异决定了二者所需的工程体系完全不同。

值得注意的是，这种"从工具到队友"（from AI as a tool to AI as a teammate）的转变，要求系统具备记忆维护、上下文知识整合与专用工具编排能力【A】。2025 年 9 月发表于 Cell Reports Medicine 的综述将医疗智能体的概念框架归纳为四大核心组件------规划（Planning）、行动（Acting）、反思（Reflecting）与记忆（Memory），并指出未来方向是主动式多智能体协作系统与"AI 智能体医院"【A/B】（该文由澳门科技大学张康、解放军总医院陈香美院士等联合发表，属同行评审文献，其框架结论与 ACL 综述高度一致，可视为 A/B 互证）。

2.2 四大支柱：画像、规划、推理、外部增强

ACL 2025 综述（"How far are we from Baymax?"）提出的架构分层是当前最完整的认知架构描述，我们将其作为本报告的参考骨架【A】：

系统画像（Profile） ------定义智能体的角色身份与组织方式，有三种原型：功能模块化 （按临床数据分析、诊断推理等任务拆分模块）、角色专门化 （模拟放射科医师等具体临床角色）、科室化组织（镜像医院科室结构，建立专科知识边界与跨科会诊机制）【A】。
临床规划（Clinical Planning）------将复杂医疗任务分解为可执行子任务：数据摄取 → 假设生成 → 治疗规划 → 风险评估，每一步对接专用医疗工具，实现任务隔离与精确纠错【A】。
医疗推理（Medical Reasoning）------采用思维链（CoT）、思维树（ToT）实现多步鉴别诊断；ReAct 式反思与记忆增强推理使智能体能积累"临床经验"，模拟医生的职业成长；推理时扩展（inference-time scaling，"给模型更多思考时间"）与医生假设-演绎式诊断推理天然契合，允许在给出最终建议前深入探索复杂鉴别诊断【A】。
外部能力增强（External Capacity Enhancement）------通过感知工具（OCR、CLIP 处理医学影像）、知识整合（医学知识图谱查询）与行动模块（临床计算器、EHR 接口）与物理和数字世界交互【A】。

$图 1$ 医疗 AI 智能体认知架构分层图（四要素 + 记忆底座 + 高风险输出人审；详见 HTML 版图 1；架构依据 Wang et al., ACL Findings 2025【A】与 Cell Reports Medicine 2025【A/B】）。

2.3 四种协作范式：从单智能体到迭代进化

在四要素之上，文献确立了四种递进的智能体组织范式【A】：(a) 单智能体 （Single Agent）------自主处理任务，适合边界清晰的单点场景；(b) 顺序任务链 （Sequential Task Chain）------将规划结构化为数据摄取、假设生成、治疗规划、风险评估等离散步骤，每步对接专用工具；© 协作专家 （Collaborative Experts）------将专科智能体（放射、病理、检验）分配到各临床领域，以标准化协议通信、聚合发现、精炼诊断；(d) 迭代进化（Iterative Evolution）------智能体基于既往病例结果更新自身策略。典型系统如 MDagents 模拟跨学科"肿瘤委员会"，让病理与放射等专科模型就病例辩论以达成共识，显著降低单模型偏置并提升诊断准确性【B】。

多智能体的收益有量化证据支撑。一项覆盖 2022 年 10 月至 2025 年 8 月、纳入 20 项定量研究的系统综述发现：所有被评估的智能体框架在准确性与任务效能上均一致优于其基线 LLM；纯多智能体框架（无工具）较基线中位提升 +14.05%（IQR 8.95--45.15%），混合式"多智能体+工具调用"提升 +17.17%（IQR 4.12--39.3%），但方差极大【A】。三种架构原型分布为：单智能体工具调用 40%、无工具多智能体 25%、混合式 35%；驱动模型中 GPT-4 系占 75%【A】。

关键指标	数值	来源
纯多智能体较基线 LLM 的中位准确率增益	+14.05%（IQR 8.95--45.15%）	系统综述 2022--2025，20 项研究【A】
"多智能体 + 工具调用"混合架构中位增益	+17.17%（IQR 4.12--39.3%，方差大）	同上【A】
架构原型占比（单智能体工具型/混合型/无工具多智能体型）	40% / 35% / 25%	同上【A】

工程警示：多智能体不是免费午餐。 同一系统综述明确指出：当任务本身可由单智能体或简单的"工具增强 LLM"完成时，多智能体协作的额外复杂度并不能带来实质优势；多智能体的收益集中在需要整合多元专长与深度推理的高复杂度临床域（如罕见病诊断、跨科肿瘤方案）【A】。医疗工程团队应以任务复杂度倒推架构复杂度，而非追逐范式时髦。

2.4 记忆与知识：被低估的分型设计

记忆机制在通用智能体中是工程细节，在医疗智能体中却是安全边界。综述将其分为三类：情景记忆 （维护当前会话上下文）、知识记忆 （存储通用医学知识，须与指南版本管理绑定）、长期记忆（存储患者画像与健康记录，受最小权限访问约束）【B】。三类记忆的混淆是真实事故来源------例如将模型参数中的过时医学"知识"当作当前指南使用，是文献记录的典型危害模式（详见 3.2 节）。

三、可靠性工程：五层防御体系

3.1 重新定义"可靠"：幻觉的量化基线

构建可靠智能体的第一步是承认基线的不可靠。多项证据汇聚出以下量化画像：最先进的医疗 LLM 在临床任务上的幻觉率为 15%--40% ；2025 年一项分析发现，无缓解措施时临床病例摘要的幻觉率达 64.1% ，采用结构化提示后降至 43.1%；较新的模型有所改善（GPT-5 在医学与科学文本上的幻觉率约 9.6%，低于上一代的 12.9%），但距离临床可接受阈值仍有差距【B】。更严峻的是检出能力的不对称：在 1 万题医学幻觉测试集 MedHallu 上，顶级 LLM 仅能识别约 63% 的最隐蔽错误，而专科医生显著更强【B】------这为"保留领域专家在回路中"提供了直接证据。

另一类证据来自提示工程的系统性研究。一项发表于 Frontiers in AI（2025）的分析揭示了"性能悖论"（performance paradox）：在受控环境中 AI 诊断可以超越医生（如 AMIE 系统），但综合荟萃分析显示 AI 整体诊断准确性仍逊于专家医师；五种 LLM 上的实验表明，提示复杂度（如 CoT）的提升并未带来统计学显著的诊断准确率差异------模型架构与数据集特征的影响远大于提示设计【A】。同时，该研究记录了具体危害模式：ChatGPT 曾虚构参考文献、将 SGLT2 抑制剂的体重效应结论完全颠倒、使用过时指南【A】。结论很清晰：提示工程是必要的卫生学，但不是可靠性的充分条件；可靠性必须由分层工程体系承担。

3.2 五层防御体系的构建

综合同行评审证据与生产级实践，我们将医疗智能体的可靠性工程归纳为五层防御体系（图 2）。该体系的核心原则是：每一层的失效都有下一层兜底，任何单层都不被信任为最后防线。

第一层：证据接地（Evidence Grounding）------RAG 及其变体。 检索增强生成（Retrieval-Augmented Generation）通过在外部经过审核的知识库中检索相关文档、再约束模型仅基于检索内容作答，实质性地降低虚构信息风险，这是目前医疗 AI 的事实性支柱【A】。关键工程细节来自一项对 12 种 RAG 变体（稠密、稀疏、混合、图基、多模态、自反式、自适应、安全加固等）在 250 份去标识患者病历上的评测【A】：

混合检索优于单一检索：稠密向量检索（语义）+ BM25 稀疏检索（关键词，如药品名、指南编号）+ 交叉编码器重排（cross-encoder）的 Haystack 流水线配合倒数排序融合（RRF），取得最佳检索精度（P@5 ≥ 0.68，nDCG@10 ≥ 0.67）；混合架构较单一模式在临床数据集上提升约 15%【A】。
自反式 RAG 是幻觉的克星 ：Self-Reflective RAG 将幻觉率压至 5.8%------约为无缓解基线（64.1%）的 1/11【A/B】。
延迟与精度权衡：稀疏检索最快（120ms），但精度不足；临床工作流要求检索+生成在 2 秒内完成，混合方案必须在预算内取舍【A】。
知识库必须是"围墙花园"：将模型的"阅读清单"限定于经过审核的权威来源（如 NICE 指南、国家药典、院内诊疗规范），并附引用与最后审核日期，是从源头控制正确性的第一原则【B】。

第二层：分层护栏（Layered Guardrails）。 以 NVIDIA NeMo Guardrails 为代表的框架将护栏形式化为贯穿流水线的检查点【B】：输入轨 ------在用户查询进入模型前屏蔽 PHI（受保护健康信息）、拦截离题或危险请求；检索轨 ------审查系统拉取的文档，拒绝低相关性片段与不可信来源，确保模型不基于坏证据推理；输出轨 ------在答案展示前执行事实核查与接地性（groundedness）测试，确保每一句话都有检索上下文支撑；人审轨------对临床、法律、安全攸关的输出路由到有资质的人类审核队列【B】。四轨叠加将开放式模型转化为受约束、可辩护的系统。

第三层：不确定性与弃权机制（Abstention Policy）。 安全的智能体必须"知道自己不知道"：当检索未找到高置信度相关信息时，系统应明确表示无法给出有把握的回答，或引导用户查看原始来源，而非猜测【B】。配合校准的置信度评分（模型对自身输出的自评估，供下游系统将低置信输出路由至人工复核），弃权机制把"错误的自信"转化为"诚实的升级"【B】。这一点在监管侧同样被确认：FDA 2025 草案指南要求提交物量化不确定度并提供校准指标【A】。

第四层：确定性工程（Determinism Engineering）。 监管者与临床医生的终极问题是："同一问题再跑一次，会得到同样答案吗？"标准生成式 AI 的诚实回答常常是否定的。工程对策包括：将采样温度压低（生产级 RAG 通常运行在 0.0--0.3）；锁定模型版本、提示模板与检索索引快照；记录每次回答实际检索到的文档；以不可变日志捕获输入、来源与输出，使任何回答可被事后重建与审计【B】。需要注意的技术事实是：即使温度为零，多数生产 API 也不保证逐位一致（批大小相关的浮点运算导致约 95--99% 而非 100% 一致），因此真正的确定性来自"版本钉死 + 快照 + 不可变日志"的纪律，而非温度参数【B】。

第五层：人机协同（Human-in-the-Loop, HITL）。 前四层均为技术控制，第五层是制度性兜底。证据与实践高度一致：高风险路径保留合格人类验证是必要而非可选；微软的受控实验显示仅明确的接地规则就能削减约三分之一的幻觉；Azure 的接地性检测服务可在实时识别不可支撑片段后改写或移除；被标记为模糊或高风险的内容应升级至专家审核队列【B】。在智能体编排框架中，HITL 已成为一等公民------例如 LangGraph 支持在图中插入需要人类批准的节点【B】。这层设计的政策依据同样坚实：WHO 面向大模型的指南将强制人类监督列为核心要求【B】。

$图 2$ 可靠性工程五层防御体系图（L1 证据接地 → L2 分层护栏 → L3 弃权与校准 → L4 确定性工程 → L5 人机协同；详见 HTML 版图 2）。

3.3 幻觉缓解的组合拳：来自证据的排序

将上述证据按"幻觉削减效能"排序，可得到一条清晰的工程优先级曲线：

缓解手段	量化效果	证据等级	工程成本
无缓解基线（临床病例摘要）	幻觉率 64.1%	B	---
结构化提示（grounding 规则）	降至 43.1%；另有实验显示明确接地规则可削减约 1/3 幻觉	B	极低
RAG + 混合检索 + 引用约束	混合检索精度 +15%；输出逐句溯源	A	中
自反式 RAG（自我批评 / 链式验证）	幻觉率降至 5.8%	A	中高（推理成本增加）
护栏四轨 + 弃权机制 + HITL	将残余错误"可捕获化"，满足风险团队阈值	B	高（组织成本）

三个要点值得展开。第一，自我批评（self-critique）是被低估的杠杆 ：模型（或更小的批评模型）在起草后重读自己的文本、标记无支撑论断，链式验证（chain-of-verification）类技术在多任务与多规模上显示事实错误的一致性下降【B】。第二，接地性检测已产品化 ：Azure 的 groundedness 检测服务可实时分析输出片段相对可信来源的支撑度，并在配置下改写或移除不可支撑内容【B】。第三，无来源不写：本报告遵循的"量化数字必须来自检索来源并标注等级"原则，同样应当成为医疗智能体输出层的硬约束------这是从研究伦理到生产工程的可迁移设计。

四、评测基准：从静态问答到动态工作流

4.1 基准的代际跃迁

评测体系正经历从"考知识"到"考工作"的代际跃迁。传统基准（MedQA、MedMCQA、PubMedQA）测量事实性知识，但无法捕捉临床工作流与医患交互的细微差别；新一代工作流基准（AgentClinic、MedChain、AI Hospital）在动态临床模拟中评估多阶段决策------考察智能体在病情变化或新数据到达时如何适应；AI-SCE 等框架则用 LLM 作评委、对照标准临床路径进行可扩展的自动评估【A】。这一跃迁与"从模型到智能体"的范式转移互为因果：考什么，决定了团队构建什么。

4.2 MedAgentBench：智能体能力的"诚实之镜"

其中最具里程碑意义的是 Stanford 团队发表于 NEJM AI（2025 年 8 月）的 MedAgentBench------首个在真实感电子病历环境中基准测试医疗智能体的标准化套件【A】。其设计要点：

规模与真实性：300 项由人类医生编写的患者特异性临床任务（10 个类别）、100 个真实患者档案（STARR 数据仓库去标识化，时间戳扰动）、超过 70 万数据元素（78.5 万条记录：检验 56.3 万、操作 12.5 万、诊断 7.5 万、用药 2.2 万）【A】。
FHIR 合规交互环境：使用现代 EMR 系统的标准 API 与通信基础设施，因此可平滑迁移至生产 EHR 系统【A】。
任务形态：评估智能体完成医生日常任务的能力------检索患者数据、下达检查、开立用药，而非仅回答考题【B】。

三点结构性发现必须内化为设计约束【A】：其一，整体不饱和 ------最好的模型也只有约 70% 成功率，"显著改进空间"就是给社区的明确优化方向。其二，查询-行动鸿沟 ------Claude 查询类任务达 85.33% 而行动类仅 54.00%（即"读病历还行，开医嘱一半出错"）；各模型在需要精细推理、复杂工作流与跨系统互操作的场景普遍挣扎，而这些恰是临床医生的日常。其三，任务类别间方差巨大------不存在全面强者，选型必须按场景细分。Stanford HAI 的评论一锤定音："这个项目让我确信 AI 不会很快取代医生------更可能的是增强我们的临床队伍"【B】。对工程团队而言，MedAgentBench 类动态基准应取代静态 QA 分数，成为智能体选型与回归测试的标准工具（该基准已在 GitHub 公开）【A】。

4.3 评测的三层框架

综合最新综述，完整的智能体评测体系应覆盖三层【B】：(1) 任务与智能体性能层 ------超越单一准确率，评估完整诊疗流程中的规划执行、工具调用熟练度、多智能体协作效率与任务完成成本；(2) 仿真与临床集成层 ------在虚拟医院等仿真环境中测试复杂场景下的综合能力与安全性，监测其是否违背临床指南，并验证与真实 EHR 数据及专家判断的一致性；(3) 高效评估与校准层------用 LLM 作评委应对开放式临床任务，但必须依据临床专家标注进行结果校准并公开评判标准。评估的目的不仅是"技术指标提升"，更是转化为真实世界的临床价值【B】。