Mobile U-ViT:深度可分离卷积与 U 形 ViT 的创新融合,实现高效医学图像分割新突破

一句总结 :文章提出了一种名为Mobile U-ViT 的轻量级混合网络架构,通过创新的ConvUtr(大核CNN块模拟Transformer模式)、LKLGL(大核局部-全局-局部块)和带下采样跳跃连接的级联解码器设计,有效解决了医学图像与自然图像间的信息密度差异(稀疏特征、模糊边界、高噪声)问题,在显著降低计算开销的同时,在多种2D/3D医学图像分割任务上达到了SOTA性能,并展现出优异的零样本泛化能力和移动端部署潜力。

  1. 现有的核心问题是什么?
    • 临床移动设备上的医学图像分析需要高效执行(低计算开销、高推理速度)。
    • 现有针对自然图像优化的轻量模型(MobileViT等)在医学图像分割任务上表现不佳
    • 原因在于医学图像与自然图像存在显著的信息密度差异
      • (i) 稀疏局部信息:相同空间窗口内信息量少,相邻区域相似性高(如图1a),小卷积核难以捕获有效模式。
      • (ii) 模糊边界与高噪声:病变边缘不清,目标与背景对比度低,存在解剖背景和成像伪影干扰(如图1a,d),要求模型能同时强调细节、抑制噪声并利用全局上下文。
  1. 现有方法存在什么缺陷?
    • 纯CNN模型:计算高效但感受野有限,难以捕获全局上下文,分割性能瓶颈明显。
    • 现有轻量模型(尤其是针对自然图像的):其设计未充分考虑医学图像特有的信息稀疏性和高语义歧义性(稀疏特征、模糊边界、高噪声),导致性能受限。
    • 现有混合架构(如TransUNet):虽然结合了CNN和ViT的优势,但往往模型庞大(参数量大)且计算开销高(GFLOPs高),不适合资源受限的移动设备。
    • 现有轻量医学模型:在保持轻量化的同时,难以平衡对全局语义的理解和对局部细节的精确捕捉,尤其在复杂3D分割或面对噪声时表现不足(如图5特征纠缠)。
  1. 本文的创新解决方案是什么?
  • 核心结构创新 :本文提出ConvUtr 作为轻量化的分层块嵌入(Patch Embedding),通过大核深度可分离卷积(DSConv) 扩展感受野捕获全局特征,结合倒置两点卷积 促进通道交互,模拟Transformer的建模模式(如图1d)。这一设计在保留类Transformer表征能力的同时,显著降低了参数量和计算开销(复杂度仅 <math xmlns="http://www.w3.org/1998/Math/MathML"> O ( h × w × d i × ( k 2 + 2 × d j ) O(h \times w \times d_i \times (k^2 + 2 \times d_j) </math>O(h×w×di×(k2+2×dj)),并采用最大池化下采样抑制医学图像中的背景噪声与模糊边界。

  • 信息融合创新 :为解决医学图像局部稀疏与全局语义歧义问题,提出大核局部-全局-局部(LKLGL)模块 (如图1d)。其四步信息流:① 大核DSConv局部聚合(Red),② 池化操作压缩Token数量,③ 注意力机制实现高效全局交互(Blue),④ 转置卷积将精炼信息局部分发(Green)。该设计通过结构化信息流Token聚合机制 (计算复杂度降至 <math xmlns="http://www.w3.org/1998/Math/MathML"> O ( N 2 / p 4 ) O(N^2/p^4) </math>O(N2/p4)),在降低计算量的同时强化了局部细节与全局上下文的融合能力。

  • 解码优化创新 :采用级联解码器与下采样跳跃连接, 设计级联上采样解码器 ,引入下采样跳跃连接 解决编码器(CNN特征)与解码器(Transformer输出)的语义对齐问题。该连接对多分辨率特征进行下采样操作,过滤冗余背景噪声增强边界信息(如图2),使模型在资源受限条件下仍能精准融合低层细节与高层语义,实现高效且准确的密集预测。

图2展示了Mobile U-ViT的整体U形架构设计,其编码器由前端的ConvUtr模块和后端的LKLGL模块构成:ConvUtr通过大核深度分离卷积与倒置点卷积分层提取特征并下采样,有效捕获医学图像的全局语义;LKLGL模块则通过局部聚合、全局注意力交互和局部分发的结构化信息流进一步融合多尺度上下文。轻量Transformer层作为瓶颈建模长程依赖后,解码器采用级联上采样结构逐步恢复分辨率,并创新性地引入下采样跳跃连接将编码器各阶段特征先下采样再与同尺度解码特征融合,在解决语义错位问题的同时显著抑制背景噪声并强化边界信息,最终实现高效精准的密集预测。

链接arxiv.org/pdf/2508.01...

相关推荐
whaosoft-14321 分钟前
51c自动驾驶~合集13
人工智能
双向3325 分钟前
Agent在游戏行业的应用:NPC智能化与游戏体验提升
人工智能
Eloudy1 小时前
矩阵的条件数 向量的条件数
人工智能·机器学习·矩阵分析
七月稻草人1 小时前
飞算JavaAI:人工智能与Java的创新融合与应用前景
开发语言·人工智能·ai编程·java开发·飞算javaai炫技赛
张登杰踩1 小时前
OpenCV cv2.flip() 函数详解与示例
人工智能·opencv·计算机视觉
是乐谷1 小时前
饿了么招java开发咯
java·开发语言·人工智能·程序人生·面试·职场和发展
Mory_Herbert2 小时前
【李宏毅-2024】第六讲 大语言模型的训练过程1——预训练(Pre-training)
人工智能·语言模型·自然语言处理
lindawang2 小时前
AI大模型提示词工程完全指南:从入门到精通
人工智能·llm
AORO20252 小时前
三防平板+天通卫星电话,打通无人之境的通信经脉
大数据·网络·人工智能·5g·电脑·信息与通信
lindawang2 小时前
在Mac上搭建本地AI工作流:Dify与DeepSeek的完美结合
人工智能·llm