AAAI2024论文解读|HGPROMPT Bridging Homogeneous and Heterogeneous Graphs

论文标题

HGPROMPT: Bridging Homogeneous and Heterogeneous Graphs for Few-shot Prompt Learning 跨同构异构图的小样本提示学习

论文链接

HGPROMPT: Bridging Homogeneous and Heterogeneous Graphs for Few-shot Prompt Learning论文下载

论文作者

Xingtong Yu, Yuan Fang, Zemin Liu, Xinming Zhang

内容简介

本文提出了HGPROMPT,一个新颖的预训练和提示学习框架,旨在统一同构图和异构图的学习过程,特别是在小样本学习场景中。传统的图神经网络(GNNs)和异构图神经网络(HGNNs)在监督学习中依赖大量特定任务的标签,这在实际应用中往往难以获得。为了解决这一问题,HGPROMPT通过双模板设计将预训练和下游任务结合起来,利用无标签图进行预训练,并通过提示学习来适应下游任务。HGPROMPT的双提示机制不仅考虑了特征变化,还处理了任务间的异质性差异。通过在三个公共数据集上的广泛实验,HGPROMPT展示了其在少样本学习中的有效性和优势。

分点关键点

  1. HGPROMPT框架
    • HGPROMPT通过双模板设计统一了同构图和异构图的预训练与下游任务。该框架首先将异构图转换为多个同构子图,然后通过任务模板将不同任务实例化为子图相似性预测任务,从而实现任务间的统一。
  1. 双提示机制

    • HGPROMPT引入了双提示机制,包括特征提示和异构提示。特征提示用于调整输入以适应不同任务的特征需求,而异构提示则进一步修改从异构图转换而来的同构子图的聚合权重,以便更好地对齐任务目标。
  2. 少样本学习

    • 在少样本学习场景中,HGPROMPT能够有效利用有限的标记实例,通过预训练和提示学习的结合,减少对大量标记数据的依赖,从而提高模型在新任务上的适应能力。
  3. 实验验证

    • 通过在三个公共数据集上的实验,HGPROMPT展示了其在节点分类和图分类任务中的优越性能,证明了该框架在处理异构图和少样本学习中的有效性。

论文代码

代码链接:https://github.com/your-repo-link (假设存在代码链接,实际链接需根据论文提供)

AAAI2024论文合集:

AAAI2024论文合集

希望这些论文能帮到你!如果觉得有用,记得点赞关注哦~ 后续还会更新更多论文合集!!

中文关键词

  1. 同构图
  2. 异构图
  3. 提示学习
  4. 小样本学习
  5. 预训练
  6. 图神经网络
相关推荐
臭小子22210 天前
【在 RX 6750 GRE 10GB 上预训练 GPT:一场 ROCm 生态的踩坑实录
gpt·预训练·amd·rocm
thesky12345613 天前
27届大模型岗面试准备(五):预训练全流程拆解——从数据清洗到 Tokenizer 再到 PT 的每
人工智能·面试·大模型·预训练·tokenizer
audyxiao00119 天前
人工智能顶会AAAI 2026论文分享|SlideBot:用于生成信息丰富、可靠、多模态幻灯片的多智能体框架
人工智能·大模型·aaai·智能体·幻灯片
这张生成的图像能检测吗23 天前
(论文速度)RE-NET递归事件网络:时态知识图上的自回归结构推理
人工智能·图神经网络·时序模型
HyperAI超神经24 天前
数据集汇总丨英伟达开源Nemotron系列数据集,超10T tokens+40M 条后训练样本,覆盖数学推理/代码生成/多语言对话
人工智能·大模型·数据集·nvidia·预训练·代码生成·监督微调
这张生成的图像能检测吗25 天前
(论文速读)CLUSTER-GCN:一种训练深度和大图卷积网络的有效算法
人工智能·深度学习·图神经网络·聚类算法
XLYcmy1 个月前
核内调度问题的分层优化:缓存管理与性能均衡策略 模型评价 模型缺点与改进方向
缓存·ai·启发式算法·图神经网络·遗传算法·数模·模拟退火
nap-joker1 个月前
具备多项先验知识的图神经网络用于多组学数据分析
人工智能·深度学习·神经网络·图神经网络·多组学数据·生物先验·ppi蛋白质-蛋白质互作信息
Token炼金师1 个月前
目标的抉择:CLM 称王、MLM 退场、FIM 补刀、多 Token 与多语 —— 预训练目标五辩
人工智能·深度学习·预训练·clm·mlm·fim·mtp
AndrewHZ2 个月前
【LLM技术全景】预训练与微调:大模型如何“学习“
人工智能·深度学习·大模型·llm·微调·预训练·rlhf