kafka数据异常记录

由于公司使用英方同步工具:

Oracle --> Oracle

Oracle --> Kafka

MySQL -->Kafka --> Oracle

其中 第一个链路最稳定,同步到kafka的数据偶尔会出问题。

bash 复制代码
{
  "owner": "mydb",
  "op": 2,
  "actseq": 431649,
  "before": {},
  "sdbtype": "mysql",
  "scntime": 1771905611,
  "sync": "1",
  "optype": "UPDATE",
  "xid": null,
  "before_key": {},
  "name": "table_1",
  "after_key": {},
  "jstime": 1771905621804000,
  "after": {},
  "scn": "mysqlbin.017660:0000000302307202;41399260"
}

上面是kafka中发现的一条数据:其中before和after都是空,导致写入snap表中数据都是null。

解决方案:

(1)英方软件bug问题,升级新版本

(2)修改写入snap脚本,过滤掉before和after都是空的数据

相关推荐
2501_933329553 小时前
Infoseek舆情监测系统:基于大模型与多模态AI的品牌公关中台架构设计与实现
人工智能·分布式·自然语言处理·架构
小红的布丁3 小时前
MySQL 和 Redis 数据一致性,以及 Redis 与 ZooKeeper 分布式锁对比
redis·分布式·mysql
Devin~Y4 小时前
大厂 Java 面试实战:从电商微服务到 AI 智能客服(含 Spring 全家桶、Redis、Kafka、RAG/Agent 解析)
java·spring boot·redis·elasticsearch·spring cloud·docker·kafka
qq_396227954 小时前
Git 分布式版本控制
分布式·git
富士康质检员张全蛋4 小时前
Kafka JMS
分布式·kafka
心勤则明4 小时前
Spring AI Alibaba 分布式智能体实战:基于 A2A 协议的架构演进与落地
人工智能·分布式·spring
weisian1514 小时前
Java并发编程--29-分布式ID的6种方案:从单机到分库分表的“身份证”设计
java·分布式·雪花算法·美团leaf·百度uid
fire-flyer4 小时前
ClickHouse系列(六):Kafka 到 ClickHouse 的生产级写入架构
clickhouse·架构·kafka
2603_954708314 小时前
微电网主从控制架构:集中式调度与分布式执行的协同机制
人工智能·分布式·物联网·架构·系统架构·能源
一个有温度的技术博主14 小时前
Redis主从同步原理:从全量同步到增量同步的完整解析
redis·分布式·缓存