AAAI2024论文解读|HGPROMPT Bridging Homogeneous and Heterogeneous Graphs

论文标题

HGPROMPT: Bridging Homogeneous and Heterogeneous Graphs for Few-shot Prompt Learning 跨同构异构图的小样本提示学习

论文链接

HGPROMPT: Bridging Homogeneous and Heterogeneous Graphs for Few-shot Prompt Learning论文下载

论文作者

Xingtong Yu, Yuan Fang, Zemin Liu, Xinming Zhang

内容简介

本文提出了HGPROMPT,一个新颖的预训练和提示学习框架,旨在统一同构图和异构图的学习过程,特别是在小样本学习场景中。传统的图神经网络(GNNs)和异构图神经网络(HGNNs)在监督学习中依赖大量特定任务的标签,这在实际应用中往往难以获得。为了解决这一问题,HGPROMPT通过双模板设计将预训练和下游任务结合起来,利用无标签图进行预训练,并通过提示学习来适应下游任务。HGPROMPT的双提示机制不仅考虑了特征变化,还处理了任务间的异质性差异。通过在三个公共数据集上的广泛实验,HGPROMPT展示了其在少样本学习中的有效性和优势。

分点关键点

  1. HGPROMPT框架
    • HGPROMPT通过双模板设计统一了同构图和异构图的预训练与下游任务。该框架首先将异构图转换为多个同构子图,然后通过任务模板将不同任务实例化为子图相似性预测任务,从而实现任务间的统一。
  1. 双提示机制

    • HGPROMPT引入了双提示机制,包括特征提示和异构提示。特征提示用于调整输入以适应不同任务的特征需求,而异构提示则进一步修改从异构图转换而来的同构子图的聚合权重,以便更好地对齐任务目标。
  2. 少样本学习

    • 在少样本学习场景中,HGPROMPT能够有效利用有限的标记实例,通过预训练和提示学习的结合,减少对大量标记数据的依赖,从而提高模型在新任务上的适应能力。
  3. 实验验证

    • 通过在三个公共数据集上的实验,HGPROMPT展示了其在节点分类和图分类任务中的优越性能,证明了该框架在处理异构图和少样本学习中的有效性。

论文代码

代码链接:https://github.com/your-repo-link (假设存在代码链接,实际链接需根据论文提供)

AAAI2024论文合集:

AAAI2024论文合集

希望这些论文能帮到你!如果觉得有用,记得点赞关注哦~ 后续还会更新更多论文合集!!

中文关键词

  1. 同构图
  2. 异构图
  3. 提示学习
  4. 小样本学习
  5. 预训练
  6. 图神经网络
相关推荐
这张生成的图像能检测吗2 天前
(论文速度)RE-NET递归事件网络:时态知识图上的自回归结构推理
人工智能·图神经网络·时序模型
HyperAI超神经3 天前
数据集汇总丨英伟达开源Nemotron系列数据集,超10T tokens+40M 条后训练样本,覆盖数学推理/代码生成/多语言对话
人工智能·大模型·数据集·nvidia·预训练·代码生成·监督微调
这张生成的图像能检测吗4 天前
(论文速读)CLUSTER-GCN:一种训练深度和大图卷积网络的有效算法
人工智能·深度学习·图神经网络·聚类算法
XLYcmy15 天前
核内调度问题的分层优化:缓存管理与性能均衡策略 模型评价 模型缺点与改进方向
缓存·ai·启发式算法·图神经网络·遗传算法·数模·模拟退火
nap-joker15 天前
具备多项先验知识的图神经网络用于多组学数据分析
人工智能·深度学习·神经网络·图神经网络·多组学数据·生物先验·ppi蛋白质-蛋白质互作信息
Token炼金师16 天前
目标的抉择:CLM 称王、MLM 退场、FIM 补刀、多 Token 与多语 —— 预训练目标五辩
人工智能·深度学习·预训练·clm·mlm·fim·mtp
AndrewHZ1 个月前
【LLM技术全景】预训练与微调:大模型如何“学习“
人工智能·深度学习·大模型·llm·微调·预训练·rlhf
apcipot_rain1 个月前
计科八股20260606——二叉树、PCA、图深度学习、进程上下文、C语言预编译、文件读写、单精度浮点数
c语言·数据结构·算法·pca·图神经网络
qcx232 个月前
【系统学AI】03 LLM训练全流程:预训练→SFT→对齐五条路线
人工智能·llm·sft·预训练·奖励模型·对齐·路线
行者-全栈开发2 个月前
【AI时空分析】基于 GNN 的城市交通流量预测:图神经网络在智慧交通中的实战应用
pytorch·深度学习·图神经网络·智慧交通·交通流量预测·时空建模·geometric