【论文阅读笔记】Sam3d: Segment anything model in volumetric medical images[

Bui N T, Hoang D H, Tran M T, et al. Sam3d: Segment anything model in volumetric medical imagesJ. arXiv preprint arXiv:2309.03493, 2023.【开源】

本文提出的SAM3D模型是针对三维体积医学图像分割的一种新方法。其核心在于将"分割任何事物"(SAM)模型的预训练编码器与一个轻量级的3D解码器相结合。与传统的逐层处理不同,SAM3D能够在整个体积上处理图像,更有效地捕捉切片间的深度关系,同时维持模型的简单性和计算效率。

主要特点包括:

  1. 预训练的SAM编码器:该编码器在大规模数据集上预训练,能够提取出鲁棒的低级特征,如边缘和边界,这些在不同的图像域中都有相关性。

  2. 去除了SAM中的prompts Encoder:因为解码器必须处理 3D 体积数据,所以不能使用 SAM 的掩模解码器,它是专门为 2D 自然图像设计的

  3. 轻量级3D解码器:为了处理3D体积数据,SAM3D提出了一个适当的3D解码器。这个解码器由四个3D卷积块和一个分割头组成,通过跳跃连接实现,有助于在保持模型简单的同时提高分割性能。

  4. 处理方式:SAM3D通过先将3D体积图像分解为2D切片,然后通过预训练的SAM编码器处理每个切片,生成3D切片嵌入。这些嵌入被3D解码器进一步处理,以捕获切片间的深度关系。

  5. 损失函数:模型训练使用了组合损失函数,包括dice loss和cross-entropy loss,以优化分割性能。

  6. 实验结果:通过在多个医学图像数据集上的实验,只需要单2080TI GPU,SAM3D显示了与当前最先进的3D神经网络和基于Transformer的模型相当的性能(其实弱很多),同时在参数数量上大大减少。

相关推荐
一壶浊酒伴余生2 小时前
新概念英语第一册 · 句法笔记
笔记·英语学习·英语语法·新概念英语
Rocky Ding*5 小时前
REPA-E技术深度解析:解冻 VAE 之后,扩散模型为什么需要选择梯度
论文阅读·人工智能·深度学习·机器学习·aigc·ai-native·repa-e
蒸蒸yyyyzwd5 小时前
后端学习笔记 day111
笔记·学习
叼烟扛炮6 小时前
[LangChain] 学习笔记(08):工具调用底层闭环与第三方搜索(Tavily)实战
人工智能·笔记·学习·langchain
江屿风7 小时前
【Git-组件】【Git入门:从文档灾难到版本掌控】流食般投喂
运维·笔记·git·组件·版本控制
小李不想当小白8 小时前
HAL库之UART(STM32 HAL库学习笔记)
笔记·stm32·单片机·嵌入式硬件·学习·嵌入式
旖旎夜光9 小时前
【C++ 基础入门】C++ 多态(中):虚函数表、多态原理与动静绑定
开发语言·c++·笔记·学习
旖旎夜光10 小时前
【C++ 基础入门】C++多态(下):单/多继承虚表、多态补充与 21 道高频题
开发语言·c++·笔记·学习
叼烟扛炮15 小时前
[LangChain] 学习笔记(07):大模型长出手脚——工具(Tools)定义与调用闭环
笔记·学习·langchain
叼烟扛炮20 小时前
[LangChain] 学习笔记(06):突破大模型限制——结构化输出(Structured Output)
windows·笔记·学习·langchain