FlinkCDC系列:通过skipped.operations参数选择性处理新增、更新、删除数据

在flinkCDC源数据配置,通过debezium.skipped.operations参数控制,配置需要过滤的 oplog 操作。操作包括 c 表示插入,u 表示更新,d 表示删除。默认情况下,不跳过任何操作,以逗号分隔。配置多个操作,需要英文逗号分隔。

官网说明地址:Debezium connector for MySQL :: Debezium Documentation

使用实例如下:

REATE TABLE IF NOT EXISTS `test_source` (

`testid` varchar ( 32 ),

`name` int,

`addre` varchar ( 100 ),

`stat` int,

`updateTime` TIMESTAMP,

PRIMARY KEY ( `testid` ) NOT ENFORCED

) WITH (

'connector' = 'mysql-cdc',

'hostname' = '*******',

'port' = '**',

'username' = '***',

'password'='********',

'database-name' = 'dbname',

'scan.startup.mode' = 'initial',

'debezium.skipped.operations'='d,c',

'table-name' = 'tablename'

);

相关推荐
萧曵 丶34 分钟前
MySQL InnoDB 实现 MVCC 原理
数据库·mysql·mvcc
万粉变现经纪人1 小时前
如何解决 pip install mysqlclient 报错 ‘mysql_config’ not found 问题
数据库·python·mysql·pycharm·bug·pandas·pip
lkbhua莱克瓦241 小时前
进阶-SQL优化
java·数据库·sql·mysql·oracle
alonewolf_991 小时前
MySQL 8.0 主从复制原理深度剖析与实战全解(异步、半同步、GTID、MGR)
数据库·mysql·adb
Mr. Cao code1 小时前
MySQL数据卷实战:持久化存储秘籍
数据库·mysql·docker·容器
五阿哥永琪2 小时前
MySQL相关的面试题 MySQL存储引擎与索引机制深度解析
数据库·mysql
longxibo2 小时前
mysql数据快速导入doris
android·大数据·python·mysql
鹿角片ljp2 小时前
Java深入理解MySQL数据库操作
java·mysql·adb
lpfasd1232 小时前
鲲鹏生态下的实时计算新选择:OmniStream深度解析与竞品横向对比
大数据·flink