论文笔记:Frozen Language Model Helps ECG Zero-Shot Learning

2023 MIDL

1 intro

  • 心电图(ECG)被广泛应用于检测各种心脏疾病,包括心律失常、心脏病发作和心力衰竭等
  • 近些年深度学习方法在心电图数据分类领域取得了不错的效果。
    • 基于深度学习的ECG数据分类方法,通常以监督学习范式进行训练,需要大量的高质量标记数据
  • 一些特殊形式的心电图数据往往难以获得准确的数据标签,需要受过专业培训的心脏病专家对心电图进行手动解释,耗费大量时间及成本
    • ------>部分研究采用自监督预训练+微调的范式来对ECG数据进行分类
    • 相比于基于监督学习方法,这类方法能够更灵活地适配异常检测、心律失常分类等下游任务
    • 但仍然需要一定量的与下游任务相关的标记样本来对模型进行微调
  • 上述两种范式并不能实现零样本学习任务,即模型能够识别训练或微调数据中并没有见过的类别
    • 现有的零样本学习方法通过从已知类别样本中学习共享特征,然后基于未见类别特征的"描述"将共享特征推广到未见类别样本上来实现分类
    • 对于ECG数据,未见类别的"描述"可以借用外部医学领域知识,例如文本形式的心电图报告
    • ------>论文利用临床报告来引导ECG数据的预训练,实现ECG数据的零样本学习

2 方法

训练时候的文本:

测试阶段的文本:

相关推荐
GZ_TOGOGO12 分钟前
【2024最新】华为HCIE认证考试流程
大数据·人工智能·网络协议·网络安全·华为
sp_fyf_202412 分钟前
计算机前沿技术-人工智能算法-大语言模型-最新研究进展-2024-10-02
人工智能·神经网络·算法·计算机视觉·语言模型·自然语言处理·数据挖掘
新缸中之脑13 分钟前
Ollama 运行视觉语言模型LLaVA
人工智能·语言模型·自然语言处理
卷心菜小温34 分钟前
【BUG】P-tuningv2微调ChatGLM2-6B时所踩的坑
python·深度学习·语言模型·nlp·bug
胡耀超1 小时前
知识图谱入门——3:工具分类与对比(知识建模工具:Protégé、 知识抽取工具:DeepDive、知识存储工具:Neo4j)
人工智能·知识图谱
陈苏同学1 小时前
4. 将pycharm本地项目同步到(Linux)服务器上——深度学习·科研实践·从0到1
linux·服务器·ide·人工智能·python·深度学习·pycharm
吾名招财1 小时前
yolov5-7.0模型DNN加载函数及参数详解(重要)
c++·人工智能·yolo·dnn
鼠鼠龙年发大财2 小时前
【鼠鼠学AI代码合集#7】概率
人工智能
龙的爹23332 小时前
论文 | Model-tuning Via Prompts Makes NLP Models Adversarially Robust
人工智能·gpt·深度学习·语言模型·自然语言处理·prompt
工业机器视觉设计和实现2 小时前
cnn突破四(生成卷积核与固定核对比)
人工智能·深度学习·cnn