kafka数据异常记录

由于公司使用英方同步工具:

Oracle --> Oracle

Oracle --> Kafka

MySQL -->Kafka --> Oracle

其中 第一个链路最稳定,同步到kafka的数据偶尔会出问题。

bash 复制代码
{
  "owner": "mydb",
  "op": 2,
  "actseq": 431649,
  "before": {},
  "sdbtype": "mysql",
  "scntime": 1771905611,
  "sync": "1",
  "optype": "UPDATE",
  "xid": null,
  "before_key": {},
  "name": "table_1",
  "after_key": {},
  "jstime": 1771905621804000,
  "after": {},
  "scn": "mysqlbin.017660:0000000302307202;41399260"
}

上面是kafka中发现的一条数据:其中before和after都是空,导致写入snap表中数据都是null。

解决方案:

(1)英方软件bug问题,升级新版本

(2)修改写入snap脚本,过滤掉before和after都是空的数据

相关推荐
小宋10212 小时前
从 Kafka 告警到前端实时可见:SSE 在故障诊断平台中的一次完整落地实践
java·前端·kafka
DemonAvenger4 小时前
深入理解Kafka分区策略:实现数据均衡分布的最佳实践
性能优化·kafka·消息队列
予枫的编程笔记5 小时前
【Kafka进阶篇】Kafka延迟请求处理核心:时间轮算法拆解,比DelayQueue高效10倍
java·kafka·高并发·时间轮算法·delayqueue·延迟任务·timingwheel
笨蛋不要掉眼泪5 小时前
Spring Cloud Gateway 扩展:全局跨域配置
java·分布式·微服务·架构·gateway
新猿一马6 小时前
一文读懂kafka重平衡
kafka
正在走向自律6 小时前
高并发场景下一卡通系统数据库架构设计与实践
数据库·分布式·一卡通系统
予枫的编程笔记6 小时前
【Kafka进阶篇】Spring Boot Kafka客户端踩坑记:自定义序列化器+ContainerFactory调优指南
java·spring boot·kafka·java21·并发消费·kafka客户端·自定义序列化器
予枫的编程笔记6 小时前
【Kafka进阶篇】Canal+Kafka+ES实战:内容平台数据同步难题,这样解最优雅
redis·mysql·elasticsearch·kafka·canal·数据同步·异步解耦
西***63476 小时前
多领域落地验证:分布式 KVM 如何成为指挥中心的 “协同核心引擎”
分布式