kafka数据异常记录

由于公司使用英方同步工具:

Oracle --> Oracle

Oracle --> Kafka

MySQL -->Kafka --> Oracle

其中 第一个链路最稳定,同步到kafka的数据偶尔会出问题。

bash 复制代码
{
  "owner": "mydb",
  "op": 2,
  "actseq": 431649,
  "before": {},
  "sdbtype": "mysql",
  "scntime": 1771905611,
  "sync": "1",
  "optype": "UPDATE",
  "xid": null,
  "before_key": {},
  "name": "table_1",
  "after_key": {},
  "jstime": 1771905621804000,
  "after": {},
  "scn": "mysqlbin.017660:0000000302307202;41399260"
}

上面是kafka中发现的一条数据:其中before和after都是空,导致写入snap表中数据都是null。

解决方案:

(1)英方软件bug问题,升级新版本

(2)修改写入snap脚本,过滤掉before和after都是空的数据

相关推荐
风中凌乱2 小时前
kafka新版本集群的安装与部署
分布式·kafka
SLD_Allen3 小时前
大规模分布式AI训练基础设施
人工智能·分布式·模型训练
abcy0712133 小时前
kafka消息丢失与消息重复消费
kafka
富士康质检员张全蛋4 小时前
Kafka的操作-消费的详情
分布式·kafka
昕光xg5 小时前
Istio笔记04-基于Jaeger的分布式链路追踪
笔记·分布式·istio
wWYy.19 小时前
分布式:数据复制
分布式
正儿八经的少年1 天前
分布式 ID
分布式
七夜zippoe1 天前
深入解析CANN仓库中的HCCL分布式通信库
pytorch·分布式·cann·hccl·通信库
AI人工智能+电脑小能手1 天前
【大白话说Java面试题 第188题】【08_Kafka篇】第4题:Kafka 大量消息积压时该如何处理?
java·性能优化·kafka·故障排查·消息积压
富士康质检员张全蛋1 天前
Kafka的操作 消费者组 消费位置查看
分布式·kafka