SPLD论文笔记

SLPD论文笔记

题目:SLPD: Slide-Level Prototypical Distillation for WSIs

摘要

提高特征表示能力是许多全玻片病理图像 (WSI) 任务的基础。最近的工作在病理特异性自我监督学习(SSL)方面取得了巨大成功。然而,它们中的大多数只专注于学习补丁级表示,因此在代理和slide级下游任务之间仍然存在差距,例如子类型、分级和分期。

针对slide级表示,本文提出了

slide级原型蒸馏(SLPD)来探索载玻片内和载玻片间的语义结构,以便在WSI上进行上下文建模。对每个 WSI 中的区域(4096 × 4096 个斑块)进行迭代内聚类,以产生原型并鼓励区域表示更接近指定的原型。

通过用原型表示每张slide,进一步根据原型的设定距离选择相似的slide,并通过交叉slide原型分配区域进行蒸馏。

代码地址:GitHub - Carboxy/SLPD

方法

(a) WSI 具有 WSI-region-patch-image 的层次结构,从粗到细。

(b) 两阶段预训练范式依次执行图像到patch和patch到区域聚合。

(C-E)拟议的SLPD。SLPD 通过幻灯片级聚类来探索语义结构。除了自蒸馏之外,区域表示还与slide内和slide之间的原型相关联,以全面了解 WSI。

其他:

  1. Hierarchical Image Pyramid Transformer(HIPT)预训练模型
  2. slide级聚类"由一组原型抽象出来,这些原型捕获了 WSI 的语义结构
  3. slide间蒸馏:

实验结果


相关推荐
大模型最新论文速读15 小时前
UnityMAS-O:专用于多 agent 工作流训练的 RL 框架
论文阅读·人工智能·深度学习·机器学习·自然语言处理
大模型最新论文速读17 小时前
06-04 · LLM 最新论文速览
论文阅读·人工智能·深度学习·机器学习·自然语言处理
森诺Alyson17 小时前
前沿技术借鉴研讨-2026.6.4(孕期持续累积高温暴露显著升高妊娠期糖尿病患病风险)
论文阅读·人工智能·经验分享
诸葛思颖2 天前
论文阅读笔记——NetLLM :当LLM遇上网络管理
论文阅读·笔记
CanCanCanedFish3 天前
Transformer论文阅读笔记:从注意力机制到革命性架构的启示
论文阅读·笔记·transformer
大模型最新论文速读3 天前
06-02 · LLM 最新论文速览
论文阅读·人工智能·深度学习·机器学习·自然语言处理
Rocky Ding*4 天前
深入浅出完整解析AIGC时代中GAN(Generative Adversarial Network)系列模型核心基础知识(下篇)
论文阅读·人工智能·深度学习·机器学习·aigc·gan·ai-native
chnyi6_ya5 天前
论文阅读笔记|Wan: Open and Advanced Large-Scale Video Generative Models
论文阅读·笔记
chnyi6_ya5 天前
论文阅读:CogVideoX: Text-to-Video Diffusion Models with An Expert Transformer
论文阅读·深度学习·transformer
大模型最新论文速读6 天前
SkillOpt:把 skill 文档当成模型权重来训练
论文阅读·人工智能·深度学习·机器学习·自然语言处理