KADB使用PXF连接KES验证

  • 验证环境

KADB版本:Greenplum Database 6.0.0 build dev.V003R002C001B0181.d354cc9215

KES版本:KingbaseES V008R006C007B0012

Java版本:openjdk version "1.8.0_262"

  • PXF部署

以下操作假设KADB和KES已经部署完成并且启动正常,环境变量设置完成

  1. 设置环境变量

在mppadin用户的.bashrc文件加入以下内容:
export PATH=GPHOME/pxf/bin:PATH

export PXF_CONF=$GPHOME/pxf

  1. 安装JAVA

修改/home/mppadmin/kadb/pxf/conf/pxf-env.sh文件加入JAVA安装目录:
export JAVA_HOME=/usr/lib/jvm/java-1.8.0-openjdk-1.8.0.262.b10-1.el7.x86_64/jre

注:支持openjdk

  1. 注册pxf扩展

使用mppadmin用户登录master节点主机执行:
/home/mppadmin/mpp/pxf/bin/pxf cluster register

该命令拷贝pxf扩展文件到集群每一个节点的/home/mppadmin/kadb/share/postgresql/extension目录中,kadb介质已经完成此步骤,命令执行结果如下:
[mppadmin@mdw1 extension]$ pxf cluster register

Installing PXF extension on master host and 0 segment hosts...

PXF extension has been installed on 1 out of 1 host

  1. 拷贝KES JDBC驱动到KADB所有节点的$PXF_HOME/lib目录
  1. 创建jdbc连接参数配置文件

在KADB所有segment节点创建下面的文件(jdbc-site.xml文件模板在目录:/home/mppadmin/kadb/pxf/templates

修改改文件的下面参数:

  1. 启动PXF服务

在KADB master节点执行:
/home/mppadmin/mpp/pxf/bin/pxf cluster start

命令输出如下:
[mppadmin@mdw1 templates]$ pxf cluster start

Starting PXF on master host and 0 segment hosts...

PXF started successfully on 1 out of 1 host

查看pxf server允许状态:
[mppadmin@mdw1 templates]$ pxf cluster status

Checking status of PXF servers on master host and 0 segment hosts...

PXF is running on 1 out of 1 host

  1. 在测试数据库安装pxf扩展

登录KADB,在测试数据库中执行:

create extension pxf;

  • KADB通过PXF连接KES测试性能
  1. KADB通过pxf外部表访问KES中的数据
  1. KES创建测试表

test=# \d test

Table "public.test"

Column | Type | Collation | Nullable | Default

--------+----------------------------+-----------+----------+---------

a | integer | | |

b | character varying(20 char) | | |

  1. 插入测试数据,并记录时间

test=# insert into test values(generate_series(1,1000000),'ccccccccccccccc');

INSERT 0 1000000

Time: 1147.879 ms (00:01.148)

  1. 登录KADB,创建测试数据库test

创建只读外部表test
create external table test(

a int,

b varchar(20))

location('pxf://test?profile =jdbc')

FORMAT 'CUSTOM' (FORMATTER='pxfwritable_import');

  1. 外部表读性能

postgres=# select count(*) from test1;

count


2000002

(1 row)

Time: 3729.619 ms

KES本地读取性能
test=# select count(*) from test;

count

2000002

(1 row)

Time: 112.064 ms

  1. KADB通过pxf外部表写入KES数据
  1. KADB创建可写外部表

create writable external table test(

a int,

b varchar(20))

location('pxf://test?profile=jdbc')

FORMAT 'CUSTOM' (FORMATTER='pxfwritable_export');

  1. 通过外部表写入数据并记录时间

postgres=# insert into test values(generate_series(1,1000000),'ccccccccccccccc');

INSERT 0 1000000

Time: 11397.677 ms

  1. KES本地写入并记录时间

test=# insert into test values(generate_series(1,1000000),'ccccccccccccccc');

INSERT 0 1000000

Time: 1147.879 ms (00:01.148)

相关推荐
万事大吉CC1 小时前
mysql单表查询·3
数据库·mysql
bin91532 小时前
【EXCEL数据处理】000010 案列 EXCEL文本型和常规型转换。使用的软件是微软的Excel操作的。处理数据的目的是让数据更直观的显示出来,方便查看。
大数据·数据库·信息可视化·数据挖掘·数据分析·excel·数据可视化
Miqiuha2 小时前
lock_guard和unique_lock学习总结
java·数据库·学习
一 乐3 小时前
学籍管理平台|在线学籍管理平台系统|基于Springboot+VUE的在线学籍管理平台系统设计与实现(源码+数据库+文档)
java·数据库·vue.js·spring boot·后端·学习
Java探秘者7 小时前
Maven下载、安装与环境配置详解:从零开始搭建高效Java开发环境
java·开发语言·数据库·spring boot·spring cloud·maven·idea
2301_786964367 小时前
3、练习常用的HBase Shell命令+HBase 常用的Java API 及应用实例
java·大数据·数据库·分布式·hbase
阿维的博客日记8 小时前
图文并茂解释水平分表,垂直分表,水平分库,垂直分库
数据库·分库分表
wrx繁星点点9 小时前
事务的四大特性(ACID)
java·开发语言·数据库
小小娥子9 小时前
Redis的基础认识与在ubuntu上的安装教程
java·数据库·redis·缓存
DieSnowK9 小时前
[Redis][集群][下]详细讲解
数据库·redis·分布式·缓存·集群·高可用·新手向