论文笔记:Frozen Language Model Helps ECG Zero-Shot Learning

2023 MIDL

1 intro

  • 心电图(ECG)被广泛应用于检测各种心脏疾病,包括心律失常、心脏病发作和心力衰竭等
  • 近些年深度学习方法在心电图数据分类领域取得了不错的效果。
    • 基于深度学习的ECG数据分类方法,通常以监督学习范式进行训练,需要大量的高质量标记数据
  • 一些特殊形式的心电图数据往往难以获得准确的数据标签,需要受过专业培训的心脏病专家对心电图进行手动解释,耗费大量时间及成本
    • ------>部分研究采用自监督预训练+微调的范式来对ECG数据进行分类
    • 相比于基于监督学习方法,这类方法能够更灵活地适配异常检测、心律失常分类等下游任务
    • 但仍然需要一定量的与下游任务相关的标记样本来对模型进行微调
  • 上述两种范式并不能实现零样本学习任务,即模型能够识别训练或微调数据中并没有见过的类别
    • 现有的零样本学习方法通过从已知类别样本中学习共享特征,然后基于未见类别特征的"描述"将共享特征推广到未见类别样本上来实现分类
    • 对于ECG数据,未见类别的"描述"可以借用外部医学领域知识,例如文本形式的心电图报告
    • ------>论文利用临床报告来引导ECG数据的预训练,实现ECG数据的零样本学习

2 方法

训练时候的文本:

测试阶段的文本:

相关推荐
宇擎智脑科技14 小时前
一个 agent 怎么做“中途打断“:steer / followUp / nextTurn
人工智能·agent
zhangfeng113314 小时前
Mamba transformer的颠覆者 论文技术解读与应用实践深度报告,
人工智能·深度学习·transformer
weixin_4462608514 小时前
Skill-RM:通过Agent技能统一异构评估标准
人工智能
Sss_Ass14 小时前
2026 年 AI 大模型 & AI 编程工具实战全总结
人工智能
IT231014 小时前
RISC-V SoC设计解决方案:从架构优化到验证收敛
人工智能
BlockWay14 小时前
WEEX Labs 周度观察:微软-OpenAI 合作调整与AI 多云趋势
大数据·人工智能·算法·安全·microsoft
掘金一周14 小时前
问卷调查:如果现在收到裁员通知,你手里的现金流能支撑多久? | 沸点周刊6.4
前端·人工智能·后端
Smoothcloud润云14 小时前
5大功能精修,重构AI算力使用体验!
java·人工智能·windows·算法·重构·编辑器·sublime text
andafaAPS14 小时前
安达发|工艺品aps自动排产排程排单软件:告别生产“一团乱麻“
大数据·数据库·人工智能·安达发aps·计划排产软件·自动排单软件
hyunbar77714 小时前
Hermes|飞书 + 腾讯云搭建带记忆的 AI 智能助手
人工智能