kafka数据异常记录

由于公司使用英方同步工具:

Oracle --> Oracle

Oracle --> Kafka

MySQL -->Kafka --> Oracle

其中 第一个链路最稳定,同步到kafka的数据偶尔会出问题。

bash 复制代码
{
  "owner": "mydb",
  "op": 2,
  "actseq": 431649,
  "before": {},
  "sdbtype": "mysql",
  "scntime": 1771905611,
  "sync": "1",
  "optype": "UPDATE",
  "xid": null,
  "before_key": {},
  "name": "table_1",
  "after_key": {},
  "jstime": 1771905621804000,
  "after": {},
  "scn": "mysqlbin.017660:0000000302307202;41399260"
}

上面是kafka中发现的一条数据:其中before和after都是空,导致写入snap表中数据都是null。

解决方案:

(1)英方软件bug问题,升级新版本

(2)修改写入snap脚本,过滤掉before和after都是空的数据

相关推荐
清平乐的技术专栏12 小时前
【Kafka笔记】(二)核心架构与专属名词解释
笔记·架构·kafka
清平乐的技术专栏12 小时前
【Kafka笔记】(三)常用命令整理
笔记·分布式·kafka
旺仔Sec12 小时前
Spark 从入门到部署:核心模块解析与 Yarn 模式实战指南
大数据·分布式·spark
夜白宋12 小时前
【项目深入】三、分布式锁
分布式
一天 24h12 小时前
从单体到分布式:JWT 如何彻底改变 Web 认证系统
前端·分布式
LCG元13 小时前
【Go后端开发】从 0 到生产级:高性能分布式网关全实现 + 接口限流熔断降级实战
分布式·golang·wpf
旺仔Sec13 小时前
HBase 分布式集群部署实战:从解压到启动的完整指南
数据库·分布式·hbase
晚霞的不甘1 天前
CANN-MoE模型推理加速实战
人工智能·分布式·python
武子康1 天前
Java-221 RocketMQ 消息存储核心原理:CommitLog、ConsumerQueue、IndexFile 与消息过滤机制
java·大数据·分布式·消息队列·rabbitmq·rocketmq·java-rocketmq
或与且与或非2 天前
rabbitmq选举集群搭建
分布式·rabbitmq·ruby