论文笔记:Frozen Language Model Helps ECG Zero-Shot Learning

2023 MIDL

1 intro

  • 心电图(ECG)被广泛应用于检测各种心脏疾病,包括心律失常、心脏病发作和心力衰竭等
  • 近些年深度学习方法在心电图数据分类领域取得了不错的效果。
    • 基于深度学习的ECG数据分类方法,通常以监督学习范式进行训练,需要大量的高质量标记数据
  • 一些特殊形式的心电图数据往往难以获得准确的数据标签,需要受过专业培训的心脏病专家对心电图进行手动解释,耗费大量时间及成本
    • ------>部分研究采用自监督预训练+微调的范式来对ECG数据进行分类
    • 相比于基于监督学习方法,这类方法能够更灵活地适配异常检测、心律失常分类等下游任务
    • 但仍然需要一定量的与下游任务相关的标记样本来对模型进行微调
  • 上述两种范式并不能实现零样本学习任务,即模型能够识别训练或微调数据中并没有见过的类别
    • 现有的零样本学习方法通过从已知类别样本中学习共享特征,然后基于未见类别特征的"描述"将共享特征推广到未见类别样本上来实现分类
    • 对于ECG数据,未见类别的"描述"可以借用外部医学领域知识,例如文本形式的心电图报告
    • ------>论文利用临床报告来引导ECG数据的预训练,实现ECG数据的零样本学习

2 方法

训练时候的文本:

测试阶段的文本:

相关推荐
blackorbird6 分钟前
数据投毒Ai训练集行动开始走向社区化作战
人工智能
机器之心10 分钟前
蒸馏所有员工:Meta强制收集鼠标键盘输入训练AI,社区炸了
人工智能·openai
阿里云大数据AI技术18 分钟前
打造具身智能数据基石:阿里云PAI赋能具身数据高效处理
人工智能·机器人
金融小师妹19 分钟前
AI政策框架解析:凯文·沃什货币体系重构与美联储治理范式转型
大数据·人工智能·重构·逻辑回归
旦莫20 分钟前
测试工程师如何用AI生成测试用例?我的提示词模板分享
人工智能·python·测试开发·自动化·测试用例·ai测试
UCloud_TShare26 分钟前
优刻得发布云搜索服务CSS:面向AI时代的企业级搜索基础设施
前端·css·人工智能
卷积殉铁子31 分钟前
从Symphony到AGI宣言,GPT-6的真相比噱头更复杂
人工智能·gpt·chatgpt
多年小白40 分钟前
中科院 Ouroboros 晶圆级存算一体芯片深度解析
大数据·网络·人工智能·科技·ai
jkyy20141 小时前
数智赋能主动健康,AI健康开放平台引领健康管理数字化新范式
人工智能·健康医疗
零壹AI实验室1 小时前
RAG-Anything测评:港大开源的全能RAG框架,真的"万物皆可RAG"吗
人工智能