Spark——Spark读写Greenplum/Greenplum-Spark Connector高速写Greenplum

文章目录

问题背景

通过数据平台上的DataX把Hive表数据同步至Greenplum(因为DataX原生不支持Greenplum Writer,只能采用PostgreSQL驱动的方式),但是同步速度太慢了,<100Kb/s(DataX服务器和Greenplum服务器都在内网,实测服务器间传输文件速率可以达到170Mb/s+),根本没法用。

解决方式

查看Greenplum官网,给出了以下几种将外部数据写入Greenplum方式:

  • JDBC:JDBC方式,写大数据量会很慢。
  • gpload:适合写大数据量数据,能并行写入。但其缺点是需要安装客户端,包括gpfdist等依赖,安装起来很麻烦。需要了解可以参考gpload。
  • Greenplum-Spark Connector:基于Spark并行处理,并行写入Greenplum,并提供了并行读取的接口。

而我们之前采用的PostgreSQL驱动的方式就是因为使用了JDBC,导致写入速度非常慢。综合官网提供的这3中方式,我们最终选择了Greenplum-Spark Connector这种方式,但是只提供了Spark2.3版本支持,其他版本未验证过。

Greenplum-Spark Connector具体的读写架构和流程,请参考Greenplum官网文档:https://cn.greenplum.org/greenplum-spark-connector/

代码实现

Greenplum-Spark Connector需要引入两个依赖包:

greenplum-spark_2.11-2.3.0.jar无法通过Maven自动下载,需要到上面网址手动下载,且要先注册网址账号才允许下载。

Spark写Greenplum

代码实现:

scala 复制代码
package com.demo

import org.apache.spark.sql.{SaveMode, SparkSession}

import java.time.LocalDateTime
import java.time.format.DateTimeFormatter

object SparkWriteGreenplum {
  def main(args: Array[String]): Unit = {
    val spark = SparkSession.builder()
      .appName("Spark to Greenplum")
      .enableHiveSupport()
      .getOrCreate()
    spark.sparkContext.setLogLevel("INFO")

    // main函数传参数获取表名
    val tableName = args(0)
    val days = args(1).toLong

    /** spark写greenplum */
    //Greenplum配置信息
    val gscWriteOptionMap = Map(
      "url" -> "jdbc:postgresql://host:5432/db",
      "user" -> "u",
      "password" -> "p",
      "dbschema" -> "schema",
      "dbtable" -> "table"
    )

    // Hiv表分区
    val ds = LocalDateTime.now().minusDays(days).format(DateTimeFormatter.ofPattern("yyyyMMdd"))
    // 读取Hive表
    val df = spark.sql("select * from db." + tableName + " where ds = " + ds)

    // Dataframe写Greenplum
    df.write
      .format("greenplum")
      .mode(SaveMode.Overwrite)
      .options(gscWriteOptionMap)
      .save()
    spark.stop()
  }
}

最终以4个executor、每个executor 1核1G执行Spark任务,1400w+条数据,3分钟左右就导完了,效果提升非常明显。

Spark读Greenplum

scala 复制代码
    // spark读greenplum
    val gscReadOptionMap = Map(
      "url" -> "jdbc:postgresql://host:5432/db",
      "user" -> "u",
      "password" -> "p",
      "dbschema" -> "sc",
      "dbtable" -> "table"
    )

    val df: DataFrame = spark.read.format("greenplum")
      .options(gscReadOptionMap)
      .load()
    df.show()

参考

  1. https://cn.greenplum.org/greenplum-spark-connector/
  2. https://greenplum-spark-connector.readthedocs.io/en/latest/Write-data-from-Spark-into-Greenplum.html
  3. https://network.pivotal.io/products/vmware-greenplum#/releases/1427678/file_groups/17497
相关推荐
zkmall10 分钟前
企业电商解决方案哪家好?ZKmall模块商城全渠道支持 + 定制化服务更省心
大数据·运维·重构·架构·开源
随缘而动,随遇而安4 小时前
第八十八篇 大数据中的递归算法:从俄罗斯套娃到分布式计算的奇妙之旅
大数据·数据结构·算法
Amy187021118234 小时前
赋能低压分布式光伏“四可”建设,筑牢电网安全新防线
分布式
GISer_Jing5 小时前
Git协作开发:feature分支、拉取最新并合并
大数据·git·elasticsearch
IT_10246 小时前
Spring Boot项目开发实战销售管理系统——系统设计!
大数据·spring boot·后端
一只鹿鹿鹿8 小时前
信息化项目验收,软件工程评审和检查表单
大数据·人工智能·后端·智慧城市·软件工程
June bug8 小时前
【软考中级·软件评测师】下午题·面向对象测试之架构考点全析:分层、分布式、微内核与事件驱动
经验分享·分布式·职场和发展·架构·学习方法·测试·软考
聚铭网络9 小时前
案例精选 | 某省级税务局AI大数据日志审计中台应用实践
大数据·人工智能·web安全
阿波罗.20129 小时前
Zookeeper 客户端 .net访问框架 ZookeeperNetEx项目开发编译
分布式·zookeeper
Bug退退退12310 小时前
RabbitMQ 工作模式
java·分布式·rabbitmq