前沿技术借鉴研讨-2026.4.16(视觉语言模型/医学影像文本多模态对齐)

Multi-Agent Undercover Gaming: Hallucination Removal Through Counterfactual Test for Multimodal Reasoning (AAAI 2026) (A会)

核心内容:

这篇论文提出多智能体卧底游戏(MUG),用反事实视觉测试解决多模态大模型的幻觉问题,比传统多智能体辩论(MAD)更可靠、更能揪出幻觉智能体。

Anatomical Region-Guided Contrastive Decoding: A Plug-and-Play Strategy for Mitigating Hallucinations in Medical VLMs (AAAI 2026) (A会)

核心内容:

提出ARCD(解剖区域引导的对比解码),用无需训练、即插即用的方式,解决医学视觉语言模型(MedVLMs)的幻觉问题,让回答严格锚定影像关键区域,不瞎编。

(挑战)医学多模态模型容易幻觉:

依赖文本先验,不看图像证据

现有方案要么需要昂贵专家标注(训练式),要么全局修正不可靠(无训练)

(方法)用解剖分割掩码,在推理阶段做三级对比引导,强制模型只看关键区域:

  1. 动态注意力掩码生成
    输入:医学影像 + 解剖分割掩码(医生 / MedSAM 标注)
    转成和图像 token 对齐的全局 + 局部掩码,告诉模型哪块是诊断关键区
  2. 掩码引导的三级条件加权在生成的三个层级做对比加权
    Token 级:抑制非关键区的 token 嵌入
    Attention 级:放大关键区的注意力权重
    Logits 级:融合 "引导分支" 与 "普通分支" 的概率

优点:

完全无训练,即插即用;兼容任意 MedVLM 与分割模型;精准、可解释、临床可信

FAMDR: Feature-Aligned Multimodal Denoising for Reliable Diagnostic Reconciliation in Medical Imaging (AAAI 2026) (A会)

核心内容:

提出了FAMDR:一个面向医学影像的特征对齐多模态去噪框架,核心是解决影像发现与临床病史不一致的问题,让 AI 诊断更可靠、可解释、带置信度。

(挑战)现有医学影像报告生成 AI 有两大缺陷:

只追求描述通顺,忽略影像与病历的事实矛盾(比如影像有阴影,病历写 "无异常")。

把跨模态不一致直接当噪声丢掉,错过真正有临床意义的信号,容易误诊。

创新:

FAMDR = 多模态对齐 + 外部知识检索 + 细粒度矛盾定位 + 不确定性量化 + 可信报告生成

输入:医学影像 + 电子病历(EHR)

输出:去噪后的诊断、矛盾位置、置信分数

  1. CAMAL:差异感知多模态对齐:区分 "真矛盾" 和 "正常差异"。
  2. X-MRA:跨模态检索增强:从外部医学库检索相似病例 / 知识,解决罕见病、模糊病例。
  3. G-CLAM:细粒度矛盾定位:在像素级(影像)+ 短语级(文本)定位矛盾。
  4. MCUQ:医学矛盾不确定性量化:模态不一致、知识检索模糊、模型本身认知不确定
  5. CLEAR:矛盾引导的报告生成:解码时重点关注矛盾区域,生成带证据、可解释的报告。
相关推荐
irislinAmelia13 小时前
缺陷检测AI关键点在哪
人工智能·嵌入式硬件·1024程序员节
Ai-_Man13 小时前
Meta Muse还是不可以导出左侧所有对话,只能点进去单条内容导出,方法不对吗?
开发语言·人工智能·ai·小程序·c#·1024程序员节
安托智造13 小时前
MBD:从二维图纸到三维模型的制造革命(下)
大数据·人工智能·制造·mbd
火山引擎开发者社区13 小时前
VeOps 深度调查:让 AI 排障从“能用”走向“可靠”
人工智能
梓豪csd13 小时前
消息订阅中心:谁该收到哪条通知
java·开发语言·人工智能·低代码·自动化·1024程序员节
王中阳Go13 小时前
两个入口答案不一致先别调模型:6 行入口口径对账表(附脚本)
人工智能·后端·python·大语言模型·1024程序员节
武天旭13 小时前
AI安全--AI大模型的隐私保护与法律法规
人工智能·安全
Solange__13 小时前
影视预演怎么用AI生成3D场景?从分镜、Blockout到镜头交付的完整流程
人工智能·游戏·3d·ai·自然语言处理·aigc·游戏策划
宝绿特塑业再生科技13 小时前
改性HDPE再生颗粒在户外家具挤出发泡板材中的色差控制与高品质价值重构
经验分享·科技·学习·生活·1024程序员节·户外家具
冬奇Lab13 小时前
一次 Skill 评测的复盘:我推翻了一份现成的模型选型结论,然后自己造了个评测平台
人工智能·llm·agent