FlinkCDC系列:数据同步对部分字段的处理,只更新部分字段

在flinkCDC源数据配置中,只对表中的部分字段关注,通过监控部分字段进行数据更新或者不更新,对数据进行同步。主要通过以下两个参数:

column.exclude.list

默认: 空字符串

一个可选的、以逗号分隔的正则表达式列表,与列的完全限定名称匹配以从更改事件记录值中排除。列的完全限定名称的格式为databaseName。表名。列名。

column.include.list

默认: 空字符串

一个可选的、以逗号分隔的正则表达式列表,与列的完全限定名称匹配以包含在更改事件记录值中。列的完全限定名称的格式为databaseName。表名。列名。

单表可以只写列名,如果是多表、多库,必须要:databaseName.表名.列名,这种方式的配置。

REATE TABLE IF NOT EXISTS `test_source` (

`testid` varchar ( 32 ),

`name` int,

`addre` varchar ( 100 ),

`stat` int,

`updateTime` TIMESTAMP,

PRIMARY KEY ( `testid` ) NOT ENFORCED

) WITH (

'connector' = 'mysql-cdc',

'hostname' = '*******',

'port' = '**',

'username' = '***',

'password'='********',

'database-name' = 'dbname',

'scan.startup.mode' = 'initial',

'debezium.skipped.operations'='d,c',

'table-name' = 'tablename',

'debezium.column.include.list'='name,addre'

);

相关推荐
赵文宇32 分钟前
站在MySQL肩膀上快速入门PostgreSQL,开源社区最喜爱的关系数据库
mysql·postgresql
Gold Steps.38 分钟前
数据库正常运行但是端口变成了0?
数据库·mysql
愤怒的苹果ext2 小时前
MySQL JSON查询与索引
mysql·json·虚拟列·多值索引
翻斗花园牛图图-3 小时前
MySQL——库的操作
数据库·mysql
-指短琴长-3 小时前
MySQL快速入门——内置函数
android·数据库·mysql
蒲公英源码5 小时前
uniapp开源ERP多仓库管理系统
mysql·elementui·uni-app·php
小码过河.5 小时前
告别 mysqldump 痛点!用 mydumper 实现 MySQL 高效备份与恢复
数据库·mysql
是2的10次方啊5 小时前
MySQL索引优化实战:原则速查与踩坑案例(实战篇)
mysql
PONY LEE8 小时前
Flink 任务调优案例分析
大数据·flink
Hello.Reader8 小时前
Flink DataStream V2 的 Watermark可编排的“流内控制事件”实战
大数据·flink