GBASE南大通用政企行业案例-国家电网公司“网上国网”项目

一、项目概况

1、项目背景

"网上国网"是由国家电网公司打造的一款掌上电力互动服务平台。主要为客户提供通过手机进行支付购电、用电查询、信息订阅、在线客服等相关电力业务。其功能分别有:支付购电、用电查询、信息订阅、在线客服、网店导航、停电公告。服务覆盖26个省(自治区、直辖市),覆盖国土面积的88%以上,供电服务人口超过11亿人。

2、业务需求

国家电网公司要求"网上国网"服务平台应用查询性能达到毫秒级别,单表数据量在200亿行以上,之前在Oracle、Hadoop生态及国网大数据平台均无法达到毫秒级响应。

3、建设要求

支撑网上国网报表统计分析类业务:每日对300多张超1亿条(约50G)业务数据表进行抽取汇聚处理,平均每日从网省同步超1000万档案变更数据,每天汇聚超2000万的用户行为日志数据。

指标计算抽取方面:每日需对上亿数据进行批处理计算,对外提供300多个运营指标数据支撑。

基础数据下发方面:每日将网上国网汇聚后的数据下发至全网27家单位,每日下发超2000万条约15G数据。

二、解决方案

系统采用GBase 8a MPP Cluster建设,共20个节点,目前系统每个节点数据都已经通过压缩存储,每个节点数据量都超过10TB。

业务规模:每日入库数据量30亿行以上(日增量300G以上),同时支持2000万用户的app账单及用采数据实时查询。

报表统计分析类业务:每日对300多张超1亿条(约50G)业务数据表进行抽取汇聚处理,平均每日从网省同步超1000万档案变更数据,每天汇聚超2000万的用户行为日志数据。

指标计算抽取方面:每日需对上亿数据进行批处理计算,对外提供300多个运营指标数据支撑。

基础数据下发方面:每日将网上国网汇聚后的数据下发至26省(自治区、直辖市),每日下发超4000万条约30G数据。

网上国网报表统计分析系统架构图

三、 应用效果

1、实施情况

系统采用GBase 8a MPP Cluster建设,共20个节点(20个数据节点,3个管理节点),目前数据量约200T,日增数据量400G左右,并发一般100-500。

2、效果及价值

海量数据处理: 为用户提供了性价比很高的海量并行复杂数据处理平台,帮助客户实现26省(自治区、直辖市)服务11亿供电人口的电费查询、电量电费以及用能分析等业务。

高性能: 系统架构高可扩展,性能随着节点数的增加而提升,保证客户接入更全面的业务数据,满足客户的业务需求。

高压缩比: 为用户提供完备压缩态存储管理海量数据的能力,进一步降低客户数据仓库建设的成本,并进一步提升系统性能。

相关推荐
余槐i3 小时前
PostgreSQL 函数索引报错 must be immutable:3种绕法与代价
数据库·后端·sql·postgresql·性能优化
数据库小学妹3 小时前
PostgreSQL表膨胀怎么办?autovacuum清不动的根因与排查命令
数据库·postgresql·表膨胀·mvcc·数据库运维
mister_guo3 小时前
MySQL-1267错误:排序规则冲突的原因与解决方案
数据库·mysql
骇客野人4 小时前
在麒麟操作系统上 分别安装 jdk1.8, 达梦数据库,redis ,memcache 的操作实施方案和步骤
数据库·redis·memcached
美狐美颜SDK开放平台5 小时前
直播APP如何实现美白滤镜功能?视频美颜SDK技术开发方案详解
前端·数据库·人工智能·音视频·美颜sdk·直播美颜sdk·视频美颜sdk
花间相见6 小时前
【计算基础|MySQL01】【上手】安装连接、数据类型与建库建表
数据库·后端
花间相见7 小时前
【计算基础|MySQL02】【上手】SQL 增删改查
数据库·后端
ITxiaobing20237 小时前
IP 库与 AppsFlyer 国家/地区数据不一致,如何系统地对账?
数据库·网络协议·tcp/ip
这个DBA有点耶7 小时前
从时间到语义:时序数据库与向量数据库的核心机制、选型与多模融合趋势
数据库·mysql·架构
对空六课7 小时前
RFM分层边界变化的回溯计算
大数据·服务器·前端·数据库·人工智能·算法·数据分析