kettle插件-postgresql插件

今天是清明节,放假第一天也不得清闲。上午整理公司的交付文档,中午陪孩子户外骑行踏青,下午趁着休息的时间给老铁们讲下如何使用postgressql cdc插件来实时捕获数据。

注:CDC (Change Data Capture) 是一种技术,用于实时捕获和同步数据库中的更改。

1、基于docker搭建 postgressql环境。

1)创建容器

docker run -d \

--name postgres-cdc \

-e POSTGRES_USER=postgres \

-e POSTGRES_PASSWORD=123456 \

-e POSTGRES_DB=testdb \

-p 5432:5432 \

-v /Users/xxx/Documents/docker/pgdata:/var/lib/postgresql/data \

postgres \

postgres -c wal_level=logical -c max_replication_slots=10 -c max_wal_senders=10

2)进入容器

docker exec -it postgres-cdc psql -U postgres -d testdb

3)创建复制槽

SELECT pg_create_logical_replication_slot('debezium_slot', 'pgoutput');

4)创建发布

CREATE PUBLICATION debezium_publication FOR ALL TABLES;

2、将postgresql-cdc-1.0插件放到kettle的plugins目录下面,重启spoon。

3、设计转换,如下图所示:

1)本次转换用到了Postgresql CDC、JSON输入、Switch/case、写日志步骤。

Postgresql CDC步骤:解析Postgresql的日志数据。

JSON输入:解析日志数据,如{"ts_ms":1743757150325,"db":"testdb","table":"t1","op":"DELETE","before":"{\"id\":1}","pk":"{\"id\":1}"}

Switch/case:根据日志中的op字段进行路由日志数据,进行不同逻辑的处理。

写日志:模拟具体的逻辑操作。

2)Postgresql CDC配置

Debezium步骤配置如下(只输出dml),更多属性配置参考Debezium官网。如下图所示:

4、保存&运行

运行之后该转换会一直处于运行状态,只要数据源有发生变更,会实时接收到变更日志。

1)插入数据,sql为insert into t1(id,"name")values('1','Java小金刚'),转换接收数据如下图所示:

2)更新数据,update t1 set name='Java大金刚' where id='1';,转换接收数据如下图所示:

3)删除数据,delete from t1 where id='1',转换接收数据如下图所示:

done!!!

相关推荐
闻道参看18 分钟前
2026企业GEO选型指南:主流AI优化服务商对比
大数据·人工智能
Elastic 中国社区官方博客23 分钟前
13.7万人,零人工决策:使用 Elasticsearch 实现智能体驱动的灾害响应系统
大数据·数据库·人工智能·elasticsearch·搜索引擎·ai·全文检索
明航咨询—张老师28 分钟前
AI工具狂飙时代:三款实用AI产品深度横向测评
大数据·人工智能·算法·it
二等饼干~za89866841 分钟前
2026 主流 GEO 优化源码厂商横向测评:云罗 GEO / 摘星智能 / 棋引科技技术、部署、性价比全维度对比
大数据·人工智能·科技
IvorySQL1 小时前
【HOW 2026 分论坛演讲】PG/IvorySQL私有云中实践
数据库·人工智能·sql·postgresql
志栋智能1 小时前
超自动化巡检:在混合云时代更显其必要性
大数据·运维·网络·人工智能·自动化
倒流时光三十年2 小时前
PostgreSQL ON CONFLICT DO UPDATE 增加 WHERE 条件优化性能
数据库·postgresql
招标采购导航网2 小时前
招标采购导航网的召回通道设计:为什么同时用协同过滤、向量召回、规则召回三种策略
大数据·人工智能
可乐ea2 小时前
【知识获取与分享社区项目 | 项目日记第 19 天】基于 Elasticsearch 实现关键词检索与业务权重排序
java·大数据·spring boot·mysql·elasticsearch·搜索引擎·全文检索
IvorySQL2 小时前
PostgreSQL 技术日报 (6月1日)|逻辑复制问题修复,AI 行业动态速览
数据库·人工智能·postgresql