Flink cdc如何只进行增量同步,不同步历史数据(只读取binlog)

环境

flink: 1.15.3

flink-connector-mysql-cdc: 2.4.0

场景:

mysql cdc到starrocks,

目前线上环境以及有老的任务在同步,现在升级了任务(旧checkpoints无法使用)旧表里面数据特别大,不方便重新同步

方案

思考:表里面的旧数据放着不动,只从binlog同步最新的数据。

解决

https://nightlies.apache.org/flink/flink-cdc-docs-master/zh/docs/connectors/mysql/

这是官网的解决办法,但是没有说参数设置在哪里。起初设置到debeziumProperties()里面是不生效的。

其实MySqlSourceBuilder是有一个方法特意指定startUP mode的

java 复制代码
MySqlSourceBuilder<String> builder = new MySqlSourceBuilder<>();

if (StringUtils.isNotBlank(latestOffset)){
     // 从最新的binlog同步
      builder.startupOptions(StartupOptions.latest());
 }

这样就可以了,重启任务不会读取历史数据。

最后(注意!!!)

执行过后请停止任务从最新的checkpoints恢复,或者记录好checkpoints。否则下次仍然指定这种模式会丢失数据的,还有指定了这个模式不要写死,否则checkpoints会失效的,用参数的方式传入!

相关推荐
Lx35216 分钟前
Flink窗口机制详解:如何处理无界数据流
大数据
Lx35217 分钟前
深入理解Flink的流处理模型
大数据
Lx35224 分钟前
Flink vs Spark Streaming:谁更适合你的实时处理需求?
大数据
QYResearch26 分钟前
全球香水行业现状调研与发展前景预测(2025-2031年)
大数据
QYResearch31 分钟前
全球与中国空气净化器市场规模前景
大数据
连线Insight36 分钟前
竞逐AI内容,爱奇艺先出手了
大数据·人工智能
wudl55661 小时前
Flink 1.19 REST API
大数据·flink
在未来等你2 小时前
Elasticsearch面试精讲 Day 26:集群部署与配置最佳实践
大数据·分布式·elasticsearch·搜索引擎·面试
api_180079054602 小时前
性能优化揭秘:将淘宝商品 API 响应时间从 500ms 优化到 50ms 的技术实践
大数据·数据库·性能优化·数据挖掘
Lx3524 小时前
Apache Flink入门:实时数据处理的利器
大数据