论文阅读笔记:The Graph Neural Network Model

论文来源

IEEE Transactions on Neural Networks,Volume: 20 Issue: 1

背景

  1. 图神经网络模型本身具有广泛的使用背景,由于我个人研究交通流量预测的需要,此处仅考虑深度学习领域。
  2. 图结构指的是由节点node和若干个连接的边edge组成的一种数据结构。

图的一些应用

介绍

在机器学习中,我们首先假定存在一个映射,将图和其中一个节点映射为一个向量,在图中心类应用中,该映射只依赖于图本身,在节点中心类应用中,该映射依赖于节点。

在本篇论文中建立一个神经网络模型,能够使之同时适应于图中心的应用和节点中心的应用。将两种模型联合为一个模型------即图神经网络。

图神经网络的模型

|-----------------------------------------------------------------|-------------------|
| N | 节点集合 |
| E | 边集合 |
| | 节点n的信息 |
| | 节点n1与节点n2所连接的边的信息 |
| | 节点n所有相邻节点 |
| | 单射函数 |
| | 节点n所有相邻的边 |
| | 图、节点对 |

模型

使用式(1)进行模型的更新,其中x表示隐藏状态,o表示进行的输出。

我们根据式中参数来看,对于一个节点n,使用其本身信息,其相邻边的信息,相连节点的状态,相连节点的信息作为参数,通过f映射,得到隐藏状态。再以隐藏状态和该节点的信息为参数,通过g映射,得到输出的值。

计算

那么对于一个如图所示的图结构,可以使用这样的方式进行计算。如果你了解深度学习的话,w经常在其中表示权重,这里我们对于f和g均使用前馈神经网络(FNN)完成其映射功能:

具体实施

在具体的实现过程中,存在一个时间序列T。对于不同的时间步t,则有以下的计算方法和对应的示意图。这时,整个编码过程转化为一个循环神经网络。

学习算法

这一部分内容即深度学习中基本的前向计算和后向计算优化神经网络权重的过程,不再进行叙述。

实验结果

(懒得看,总之肯定是更好就对了)

总结

随着机器学习、深度学习的发展,语音、图像、自然语言处理逐渐取得了很大的突破,然而语音、图像、文本都是很简单的序列或者网格数据,是很结构化的数据,深度学习很善于处理该种类型的数据。然而现实生活中有许多事务并不能被简单地表示成序列或网格数据。如社交网络,交通网络,生物/化学分子结构等。因为要对这种可被表示为图结构的信息进行学习建模,本论文提出的图神经网络模型很好地解决了这一问题,并且在子图匹配、化合物分子分类、网页排名等领域得到了更好的实验结果。

相关推荐
Heartache boy1 小时前
野火STM32_HAL库版课程笔记-手动建立工程模板与CubeMX后续用法(重要)
笔记·stm32·单片机·嵌入式硬件
zxsz_com_cn1 小时前
设备预测性维护模型构建详解与实例:中讯烛龙如何用“数据+算法”破解故障预测难题
人工智能·深度学习·机器学习
67X2 小时前
【论文研读】Deep learning improves prediction of drug–drug anddrug–food interactions
人工智能·深度学习
程序员Shawn3 小时前
【深度学习 | 第三篇】-卷积神经网络
人工智能·深度学习·cnn
光电的一只菜鸡4 小时前
《PyTorch深度学习建模与应用(参考用书)》(三)——深度神经网络
pytorch·深度学习·dnn
AI医影跨模态组学4 小时前
Ann Oncol(IF=65.4)广东省人民医院放射科刘再毅等团队:基于深度学习CT分类器与病理标志物增强II期结直肠癌风险分层以优化辅助治疗决策
人工智能·深度学习·论文·医学·医学影像
Ztopcloud极拓云视角5 小时前
Gemini 3.1 Pro vs GPT-5.4 Pro:API成本1/3、性能差多少?选型实测笔记
人工智能·笔记·gpt·ai·语言模型
逻辑君6 小时前
认知神经科学研究报告【20260008】
人工智能·深度学习·神经网络·机器学习
弘弘弘弘~7 小时前
项目实战之评论情感分析模型——基于Bert(含任务头)
人工智能·深度学习·bert
小超同学你好7 小时前
Transformer 23. Qwen 3.5 架构介绍:混合线性/全注意力、MoE 与相对 Qwen 1 / 2 / 3 的演进
人工智能·深度学习·语言模型·架构·transformer