GBASE南大通用政企行业案例-国家电网公司“网上国网”项目

一、项目概况

1、项目背景

"网上国网"是由国家电网公司打造的一款掌上电力互动服务平台。主要为客户提供通过手机进行支付购电、用电查询、信息订阅、在线客服等相关电力业务。其功能分别有:支付购电、用电查询、信息订阅、在线客服、网店导航、停电公告。服务覆盖26个省(自治区、直辖市),覆盖国土面积的88%以上,供电服务人口超过11亿人。

2、业务需求

国家电网公司要求"网上国网"服务平台应用查询性能达到毫秒级别,单表数据量在200亿行以上,之前在Oracle、Hadoop生态及国网大数据平台均无法达到毫秒级响应。

3、建设要求

支撑网上国网报表统计分析类业务:每日对300多张超1亿条(约50G)业务数据表进行抽取汇聚处理,平均每日从网省同步超1000万档案变更数据,每天汇聚超2000万的用户行为日志数据。

指标计算抽取方面:每日需对上亿数据进行批处理计算,对外提供300多个运营指标数据支撑。

基础数据下发方面:每日将网上国网汇聚后的数据下发至全网27家单位,每日下发超2000万条约15G数据。

二、解决方案

系统采用GBase 8a MPP Cluster建设,共20个节点,目前系统每个节点数据都已经通过压缩存储,每个节点数据量都超过10TB。

业务规模:每日入库数据量30亿行以上(日增量300G以上),同时支持2000万用户的app账单及用采数据实时查询。

报表统计分析类业务:每日对300多张超1亿条(约50G)业务数据表进行抽取汇聚处理,平均每日从网省同步超1000万档案变更数据,每天汇聚超2000万的用户行为日志数据。

指标计算抽取方面:每日需对上亿数据进行批处理计算,对外提供300多个运营指标数据支撑。

基础数据下发方面:每日将网上国网汇聚后的数据下发至26省(自治区、直辖市),每日下发超4000万条约30G数据。

网上国网报表统计分析系统架构图

三、 应用效果

1、实施情况

系统采用GBase 8a MPP Cluster建设,共20个节点(20个数据节点,3个管理节点),目前数据量约200T,日增数据量400G左右,并发一般100-500。

2、效果及价值

海量数据处理: 为用户提供了性价比很高的海量并行复杂数据处理平台,帮助客户实现26省(自治区、直辖市)服务11亿供电人口的电费查询、电量电费以及用能分析等业务。

高性能: 系统架构高可扩展,性能随着节点数的增加而提升,保证客户接入更全面的业务数据,满足客户的业务需求。

高压缩比: 为用户提供完备压缩态存储管理海量数据的能力,进一步降低客户数据仓库建设的成本,并进一步提升系统性能。

相关推荐
岁岁种桃花儿13 分钟前
MySQL从入门到精通系列:InnoDB记录存储结构
数据库·mysql
jiunian_cn1 小时前
【Redis】hash数据类型相关指令
数据库·redis·哈希算法
冉冰学姐2 小时前
SSM在线影评网站平台82ap4(程序+源码+数据库+调试部署+开发环境)带论文文档1万字以上,文末可获取,系统界面在最后面
数据库·ssm框架·在线影评平台·影片分类
知识分享小能手3 小时前
SQL Server 2019入门学习教程,从入门到精通,SQL Server 2019数据库的操作(2)
数据库·学习·sqlserver
踩坑小念4 小时前
秒杀场景下如何处理redis扣除状态不一致问题
数据库·redis·分布式·缓存·秒杀
萧曵 丶4 小时前
MySQL 语句书写顺序与执行顺序对比速记表
数据库·mysql
Wiktok5 小时前
MySQL的常用数据类型
数据库·mysql
曹牧5 小时前
Oracle 表闪回(Flashback Table)
数据库·oracle
J_liaty5 小时前
Redis 超详细入门教程:从零基础到实战精通
数据库·redis·缓存
m0_706653236 小时前
用Python批量处理Excel和CSV文件
jvm·数据库·python