FlinkCDC系列:数据同步对部分字段的处理,只更新部分字段

在flinkCDC源数据配置中,只对表中的部分字段关注,通过监控部分字段进行数据更新或者不更新,对数据进行同步。主要通过以下两个参数:

column.exclude.list

默认: 空字符串

一个可选的、以逗号分隔的正则表达式列表,与列的完全限定名称匹配以从更改事件记录值中排除。列的完全限定名称的格式为databaseName。表名。列名。

column.include.list

默认: 空字符串

一个可选的、以逗号分隔的正则表达式列表,与列的完全限定名称匹配以包含在更改事件记录值中。列的完全限定名称的格式为databaseName。表名。列名。

单表可以只写列名,如果是多表、多库,必须要:databaseName.表名.列名,这种方式的配置。

REATE TABLE IF NOT EXISTS `test_source` (

`testid` varchar ( 32 ),

`name` int,

`addre` varchar ( 100 ),

`stat` int,

`updateTime` TIMESTAMP,

PRIMARY KEY ( `testid` ) NOT ENFORCED

) WITH (

'connector' = 'mysql-cdc',

'hostname' = '*******',

'port' = '**',

'username' = '***',

'password'='********',

'database-name' = 'dbname',

'scan.startup.mode' = 'initial',

'debezium.skipped.operations'='d,c',

'table-name' = 'tablename',

'debezium.column.include.list'='name,addre'

);

相关推荐
风月歌几秒前
基于小程序的超市购物系统设计与实现源码(java+小程序+mysql+vue+文档)
java·mysql·微信小程序·小程序·毕业设计·源码
q行14 分钟前
MySQL学习日志--表之间的关系
数据库·学习·mysql
麦麦鸡腿堡33 分钟前
MySQL_INSERT UPDATE DELETE语句
数据库·mysql
老李四36 分钟前
深入理解MySQL事务:特性、原理与实践
数据库·mysql
洋生巅峰38 分钟前
股票爬虫实战解析
爬虫·python·mysql
冰冰菜的扣jio1 小时前
探秘数据库——MySQL基础(四)
数据库·mysql
syty20201 小时前
flink 官方文档地址
大数据·flink
Java程序员-小白1 小时前
使用Docker安装MySQL
mysql·docker·容器
和光同尘20231 小时前
一文讲透CentOS下安装部署使用MYSQL
linux·运维·数据库·数据仓库·mysql·centos·database
爱干饭的boy1 小时前
MacBook安装node.js/maven/mysql
mysql·node.js·maven