GraphBase基础原理

一、GraphBase简介

互联网时代,随着网络技术的发展,企业积累的数据越来越多。伴随着数据集的不断增加,传统的关系型数据库查询性能会随之变差,特别是针对一些特殊的业务场景,所以迫切的需要一种新的解决方案去应对这种危机。为了解决复杂的关系问题,图数据库应运而生。

图数据库,是指以"图"这种数据结构存储和查询数据,图包含节点和关系,节点和关系可以存在标签和属性,且边可以有方向。GraphBase是分布式图数据库,基于HBase的分布式存储机制,能够支持百亿节点,千亿关系的海量数据,提供基于Spark的数据导入和基于Elasticsearch的索引机制,在推荐、关系分析和金融反欺诈等领域有广泛应用。系统具有如下特点:

  • 全分布式,Hadoop生态无缝集成。
  • 百亿点千亿边,秒级查询。
  • 提供易用的Rest接口,方便数据的查询分析。
  • 提供强大的Gremlin图遍历功能,可实现复杂的业务逻辑。
  • 支持离线批量导入和实时流导入,对导入性能进行深度优化。

二、GraphBase架构

GraphBase包含GraphServer和LoadBalancer角色。

  • GraphServer:包含GremlinServer和StandardServer服务,GremlinServer负责gremlin图查询服务,StandardServer负责REST服务等;系统启动时,meta_graph图先启动,meta_graph图负责存储多图元数据、异步任务等;ZooKeeper负责监控服务中活着的实例,并提供分布式锁服务。
  • LoadBalancer:提供图服务的负荷分担能力。

GraphBase架构如图下所示。

  • 接入层

    • Gremlin API:引入开源的Apache TinkerPop Gremlin组件,提供开源标准图交互式查询语言接口;
    • REST API:提供包含图查询、图修改、图管理的在线分析图算法在内的全套接口;
    • 通过Load Balancer提供多实例GraphServer的负荷分担。
  • 计算层

    • 提供图数据库核心引擎,包括数据管理、元数据管理等;
    • 后端存储和索引接口适配层。
  • 存储层

    • 分布式KV存储:提供海量图数据存储能力;
    • 搜索引擎提供二级索引,全文检索、模糊检索等能力。

GraphBase典型应用场景:

  • 金融反欺诈
  • 知识图谱
  • 关系分析

三、GraphBase关键特性:支持多图

场景描述

  • 不同业务部门开发不同的应用,可以共用同一套图数据库
  • 不同的应用,采用不同的数据,数据无关联,方便业务隔离

多图方案设计图

  • GraphServer:包含GremlinServer和StandardServer服务,GremlinServer负责gremlin图查询服务,StandardServer负责REST服务等;系统启动时,meta_graph图先启动,meta_graph图负责存储多图元数据、异步任务等;ZooKeeper负责监控服务中活着的实例,并提供分布式锁服务。
  • LoadBalancer:提供图服务的负荷分担能力。
  • GraphWriter:数据批量导入模块。
  • GraphStreaming:数据实时导入模块。

四、GraphBase关键特性:数据导入

支持批量导入和实时导入

GraphBase支持批量导入和实时导入两种形式,批量导入利用Spark将存储在HDFS上的历史数据全量导入到图数据库,实时导入利用Kafka和SparkStreaming将数据实时的导入到图数据库。

支持灵活的数据映射规则,将原始数据方便的映射成图模型。

批量导入支持BulkLoad

新增预计BulkLoad模式的导入能力,支持更快速的数据导入。

数据导入时,可以在一次MapReduce任务中同步生成Graph HFiles和Inner Secondary Index HFiles。

五、与其他技术组件联系

GraphBase将业务数据和元数据存储在HBase,实现海量数据的支持。将外部索引数据存储在Elasticsearch,实现全文检索、模糊匹配等查询能力。GraphBase利用Spark实现数据的批量、实时导入,利用Mapreduce实现索引重建和批量删除能力,利用ZooKeeper实现计算引擎多实例的分布式协调能力。

GraphBase与其他组件的关系如下图所示。

相关推荐
2603_965148115 小时前
如何解析JSON数据?API返回的商品信息处理教程
开发语言·数据库·python·自动化·json·api
ltl5 小时前
RocksDB 经典故障排查:L0、compaction 与 write stall
数据库
C++、Java和Python的菜鸟5 小时前
第2章 项目前置课-代码版本控制Git
大数据·elasticsearch·搜索引擎
Sammyyyyy6 小时前
如何在不停项目不停机的情况下切换AI大模型
大数据·人工智能
xfhuangfu6 小时前
Oracle中建立到CDB和PDB的连接
数据库·oracle·rpc
小小龙学IT6 小时前
DuckDB 深度实战:用 C++ 在进程内跑一个「分析型数据库」
数据库·c++
NineData6 小时前
DTCC 2026 预告|NineData CEO& 创始人叶正盛:面向 AI Agent 的数据库 DevOps 与数据复制实践
数据库·人工智能·数据库开发·devops·ninedata·数据库技术·dtcc
circuitsosk7 小时前
跨境电商智能化实战:AI如何赋能客服自动回复、广告智能投放与供应链预测
大数据·人工智能·python·langchain·智能客服
J_bean7 小时前
MySQL 事务是否必须手动开启?
数据库·mysql·数据库事务·自动提交·手动提交
J_bean7 小时前
MySQL InnoDB 如何检测死锁、判定死锁、处理死锁
数据库·mysql·死锁·死锁检测·处理死锁·死锁判定