FlinkCDC系列:数据同步对部分字段的处理,只更新部分字段

在flinkCDC源数据配置中,只对表中的部分字段关注,通过监控部分字段进行数据更新或者不更新,对数据进行同步。主要通过以下两个参数:

column.exclude.list

默认: 空字符串

一个可选的、以逗号分隔的正则表达式列表,与列的完全限定名称匹配以从更改事件记录值中排除。列的完全限定名称的格式为databaseName。表名。列名。

column.include.list

默认: 空字符串

一个可选的、以逗号分隔的正则表达式列表,与列的完全限定名称匹配以包含在更改事件记录值中。列的完全限定名称的格式为databaseName。表名。列名。

单表可以只写列名,如果是多表、多库,必须要:databaseName.表名.列名,这种方式的配置。

REATE TABLE IF NOT EXISTS `test_source` (

`testid` varchar ( 32 ),

`name` int,

`addre` varchar ( 100 ),

`stat` int,

`updateTime` TIMESTAMP,

PRIMARY KEY ( `testid` ) NOT ENFORCED

) WITH (

'connector' = 'mysql-cdc',

'hostname' = '*******',

'port' = '**',

'username' = '***',

'password'='********',

'database-name' = 'dbname',

'scan.startup.mode' = 'initial',

'debezium.skipped.operations'='d,c',

'table-name' = 'tablename',

'debezium.column.include.list'='name,addre'

);

相关推荐
jack_xu2 小时前
高频面试题:如何保证数据库和es数据一致性
后端·mysql·elasticsearch
冰^4 小时前
MySQL VS SQL Server:优缺点全解析
数据库·数据仓库·redis·sql·mysql·json·数据库开发
24k小善6 小时前
FlinkUDF用户自定义函数深度剖析
java·大数据·spring·flink·云计算
溜溜刘@♞7 小时前
数据库之mysql优化
数据库·mysql
BXCQ_xuan7 小时前
基于Node.js的健身会员管理系统的后端开发实践
后端·mysql·node.js
uwvwko7 小时前
ctfhow——web入门214~218(时间盲注开始)
前端·数据库·mysql·ctf
林夕11208 小时前
颠覆认知的MySQL全解析:安装、连接到SQL三大核心语句全掌握
后端·mysql
A charmer8 小时前
【MySQL】数据库基础
数据库·mysql
阿七想学习9 小时前
MySQL《事务》
数据库·mysql
Yang_yangyang9 小时前
mysql定时备份、打包、传输
数据库·mysql·自动化