图神经网络及其在知识图谱的应用

一 应用领域

道路交通,动态预测

自动驾驶,无人机场景

化学,医疗等场景

物理模型相关

二 图基本模块定义

V Vertex点

E Edge 边(向量)

U Global 图 (例如:全局向量)

无论事多么复杂,我们利用图神经网络的目的就是整合特征

有向图 出度,入度

无向图 度 Degree

邻接矩阵

子图:所有边和点都在原图中

连通图:对于一个无向图,如果任何的节点i能够通过一些边到达节点j,则称之为连通图

连通分量:无向图G的一个极大联通子图陈伟G的一个联通分量(或连通分支)。连通图只有一个连通分量,即其自身;非连通的无向图有多个连通分量。

有向图连通性

强连通图: 强连通图(Strongly Connected Graph)是指在有向图G中,如果对于每一对vi、vj,vi≠vj,从vi到vj和从vj到vi都存在路径,则称G是强连通图。有向图中的极大强连通子图称做有向图的强连通分量。

弱连通图: 将有向图的所有的有向边替换为无向边,所得到的图称为原图的基图。如果一个有向图的基图是连通图,则有向图是弱连通图。

最短路径:在一个带权有向图中,从某一顶点到另一顶点可能有很多条路径,最短路径即权值之和最小的那条路径。

图直径:图论中, 图的直径是指任意两个顶点间距离的最大值.(距离是两个点之间的所有路的长度的最小值) 所有最短路径中的最大值

度中心性

度中心性= =度/总节点-1

特征向量中心性Eigenvector Centrality

一个节点的重要性既取决于其邻居节点的数量(即该节点的度),也取决于其邻居节点的重要性。

中介中心性Betweenness Centrality

Betweenness=经过该节点的最短路径/其余两两节点的最短路径

连接中心性 Closeness

PageRank

阻尼系数

三 邻接矩阵

图像可以作为邻居矩阵 ,A表示邻居之间的关系

GNN(A,X)

文本数据也可以表示图的形式,零阶矩阵表示连接关系

Graphs ->are ->all ->around ->us

| | Graphs | are | all | around | us |
| Graphs | | 1 | | | |
| are | | | 1 | | |
| all | | | | 1 | |
| around | | | | | 1 |

us

GNN要求所有图的格式是一样的,考虑GCN

四 消息传递

Source,Target

五 多层GCN的作用

GNN也可以有多层

GNN的本质就是更新各部分特征

其中输入是特征,输出也是特征,邻接矩阵也不会变的

(感受野)

六 图卷积GCN

图卷积和卷积有什么不同?

看起来都是利用周围的特征,但是在图中每个点的邻居是不确定的

节点分类,对每个结点进行预测,不同点是否有连接预测

整个图分类,部分图分类等,不同子图是否相似,异常检测等

GCN归根到底还是要完成特征提取操作,只不过输入对象不是固定格式

如何获取特征呢?

通常交给GCN两个东西就行:1.各节点输入特征 2.网络结构图(邻接矩阵)

很多文章,半监督任务也能解决

GCN的基本思想:

争对橙色节点,计算他的特征:平均其邻居特征(包括自身)后传入神经网络

网络层数

这个跟卷积类似,GCN也可以做多层,每一层输入的还是节点特征,然后将当前特征与网络结构图继续传入下层就可以不断算下去

A,D,F

七 知识图谱结合图神经网络的模型模型

7.1 KGCN

KGCN提出于2019年。中心思想就是利用图神经网络的消息传递机制与基本推荐思想结合训练。在做KGCN模型时候,我们就把知识图谱是作为有权图,也就是关系会通过某种方式变为权重,而这个权重可被理解为是该关系影响用户行为的偏好程度。

计算过程

消息传递机制"Embedding ",Embedding 应该是一种映射,就像 Unicode 对应了某一个字符。在某种程度上,就是用来降维的,降维的原理就是矩阵乘法通俗讲解pytorch中nn.Embedding原理及使用 - 简书 (jianshu.com)

lKGCN:推荐系统的知识图谱卷积神经网络(Hongwei et al.,2019) - 知乎

7.2 KGAT

7.3 KGNN-LS

7.4KNI

7.5 AKGE

7.6 KGIN

相关推荐
limuyang22 小时前
我在 2核2G 云主机上跑 OpenViking:一次关于云主机、模型选型与长期成本的真实复盘
人工智能·开源·ai编程
Shulex4 小时前
跨境电商 AI Agent 核心架构解析:从只读问答到自主执行的工程落地
人工智能·架构·智能客服·跨境电商
Java后端的Ai之路4 小时前
CAS并发控制-从CPU指令到企业级乐观锁
vue.js·人工智能·python·cas·乐观锁
情 九4 小时前
MCP 实战 06:把 HTTP 接口接成工具,让 AI 帮你查数据
人工智能·网络协议·http·mcp
码农小旋风5 小时前
Ray分布式计算引擎介绍
人工智能·架构
火山引擎和TA的超级拍档们5 小时前
产品情报局 08 | AI 内容助手:全网热点驱动,一站式打通内容生产全链路
人工智能
Binovate缤江数智5 小时前
水泵远程开关之后,还需要管什么?数智开关在无人值守泵站中的监测、保护与能耗分析
人工智能·物联网
素男5 小时前
两个月不是六十天
人工智能·agent·self-becoming·ai长期记忆·ai自我介绍
byte轻骑兵5 小时前
【LMP】规范精讲[10]: 语音专线开线记——SCO 固定占座与 eSCO 限时重传
人工智能·人机交互·lmp·蓝牙链路管理·蓝牙外设