基于一致性引导的元学习bootstraping半监督医学图像分割

文章目录

  • [Consistency-guided Meta-Learning for Bootstrapping Semi-Supervised Medical Image Segmentation](#Consistency-guided Meta-Learning for Bootstrapping Semi-Supervised Medical Image Segmentation)

Consistency-guided Meta-Learning for Bootstrapping Semi-Supervised Medical Image Segmentation

摘要

医学成像取得了显著的进步,但通常需要大量高质量的注释数据,这些数据耗时且成本高昂。为了减轻这种负担,半监督学习作为一种潜在的解决方案引起了人们的关注。在本文中,我们提出了一种用于自引导医学图像分割(MLB-Seg)的元学习方法,这是一种解决半监督医学图像分割挑战的新方法。

  1. 首先涉及在一小组干净标记的图像上训练分割模型,以生成未标记数据的初始标签。
  2. 为了进一步优化这个自举过程,我们引入了一个逐像素权重映射系统,该系统可以动态地为初始化的标签和模型自己的预测分配权重。这些权重是使用元过程确定的,该过程优先考虑损失梯度方向更接近干净数据的像素,这是基于一小组精确注释的图像。
  3. 为了促进元学习过程,我们还引入了一种基于一致性的伪标签增强(PLE)方案,该方案通过集成来自相同输入的各种增强版本的预测来提高模型自身预测的质量。
  4. 为了提高通过对单个输入的多次增强得到的权重图的质量,我们在PLE方案中引入了一个平均教师。该方法有助于降低权重图中的噪声,稳定权重图的生成过程。
    代码地址

本文方法

  1. 首先使用基线模型估计所有未标记数据的标签,该模型是在干净数据上训练的
  2. 利用学习者自己的预测(即伪标签),从干净集学习并自我引导
    目标为:

    交叉熵损失
    要达到这个目标:
    步骤1:基于Sn和当前权重映射集更新θt+1。接下来,在训练步骤t中,我们计算θt+1以接近最优θ∗(wn, wp)如下:

    步骤2:在干净的训练数据上,通过最小化元目标函数中的标准交叉熵损失,生成基于Sc和θt+1的元学习权映射wn∗,wp∗:

    这里我们将wn /p中的每个元素都限制为非负,以防止潜在的不稳定训练。这样的元学习过程产生的权重图可以更好地平衡初始化和伪标签的贡献,从而减少错误像素带来的负面影响。为了减少计算开销,我们只在一个小的干净标签数据集S c上应用wn/pj的一步梯度下降。

    步骤3:使用元学习的权重映射在空间上调制逐像素的损失以更新θt+1

    为了生成更可靠的伪标签,我们提出了基于一致性的伪标签增强(PLE)方案,该方案在相同输入的增强版本之间强制一致性。
    单独使用PLE可能会导致性能下降,因为权重图中的噪声会增加。这种不稳定性会在随后的训练迭代中加剧。为了在元学习过程中解决这一问题,我们建议使用具有一致性损失的平均教师模型

实验结果

相关推荐
Red Red35 分钟前
网安基础知识|IDS入侵检测系统|IPS入侵防御系统|堡垒机|VPN|EDR|CC防御|云安全-VDC/VPC|安全服务
网络·笔记·学习·安全·web安全
Natural_yz2 小时前
大数据学习17之Spark-Core
大数据·学习·spark
qq_172805592 小时前
RUST学习教程-安装教程
开发语言·学习·rust·安装
一只小小汤圆3 小时前
opencascade源码学习之BRepOffsetAPI包 -BRepOffsetAPI_DraftAngle
c++·学习·opencascade
虾球xz3 小时前
游戏引擎学习第20天
前端·学习·游戏引擎
LateBloomer7773 小时前
FreeRTOS——信号量
笔记·stm32·学习·freertos
legend_jz3 小时前
【Linux】线程控制
linux·服务器·开发语言·c++·笔记·学习·学习方法
Komorebi.py3 小时前
【Linux】-学习笔记04
linux·笔记·学习
weiabc4 小时前
学习electron
javascript·学习·electron
HackKong4 小时前
小白怎样入门网络安全?
网络·学习·安全·web安全·网络安全·黑客