FlinkCDC系列:数据同步对部分字段的处理,只更新部分字段

在flinkCDC源数据配置中,只对表中的部分字段关注,通过监控部分字段进行数据更新或者不更新,对数据进行同步。主要通过以下两个参数:

column.exclude.list

默认: 空字符串

一个可选的、以逗号分隔的正则表达式列表,与列的完全限定名称匹配以从更改事件记录值中排除。列的完全限定名称的格式为databaseName。表名。列名。

column.include.list

默认: 空字符串

一个可选的、以逗号分隔的正则表达式列表,与列的完全限定名称匹配以包含在更改事件记录值中。列的完全限定名称的格式为databaseName。表名。列名。

单表可以只写列名,如果是多表、多库,必须要:databaseName.表名.列名,这种方式的配置。

REATE TABLE IF NOT EXISTS `test_source` (

`testid` varchar ( 32 ),

`name` int,

`addre` varchar ( 100 ),

`stat` int,

`updateTime` TIMESTAMP,

PRIMARY KEY ( `testid` ) NOT ENFORCED

) WITH (

'connector' = 'mysql-cdc',

'hostname' = '*******',

'port' = '**',

'username' = '***',

'password'='********',

'database-name' = 'dbname',

'scan.startup.mode' = 'initial',

'debezium.skipped.operations'='d,c',

'table-name' = 'tablename',

'debezium.column.include.list'='name,addre'

);

相关推荐
HUGu RGIN7 小时前
MySQL--》如何在MySQL中打造高效优化索引
android·mysql·adb
DevilSeagull14 小时前
MySQL(2) 客户端工具和建库
开发语言·数据库·后端·mysql·服务
远洪15 小时前
claude code 国内安装使用
数据库·mysql
wangbing112517 小时前
MySQL 官方 GPG 密钥过期问题
数据库·mysql
重生之我是Java开发战士17 小时前
【MySQL】事务 & 用户与权限管理
android·数据库·mysql
2401_8955213418 小时前
MySQL中的count函数
数据库·mysql
.小小陈.18 小时前
MySQL 入门到实战:从基础概念到核心存储引擎
数据库·mysql
yoyo_zzm19 小时前
Laravel10.x新特性全解析
数据库·mysql·架构
二十六画生的博客19 小时前
每个subtask都提交一份快照到hdfs,会把10个小的快照合并成一个大的吗?谁来合并?
大数据·hadoop·hdfs·flink
juniperhan20 小时前
Flink 系列第24篇:Flink SQL 集成维度表指南:存储选型、参数调优与实战避坑
大数据·数据仓库·sql·flink