ES同步失败维护步骤(适用于修改了部分主键值导致同步失败)

维护步骤:

  1. 登录到ES服务器:192.168.111.141。

  2. 停止 Canal 和 Canal-Adapter 服务:

    复制代码
    cd /home/xiangtan/canal/bin
    ./stop.sh
    
    cd /home/xiangtan/canal-adapter/bin
    ./stop.sh
  3. 确定修改了主键值的表,例如 tbl_sparking,使用 Logstash 手动同步数据:

    复制代码
    cd /home/xiangtan/canal-adapter/elk
    sudo /usr/share/logstash/bin/logstash -f 8-tbl_sparking.conf
  4. 同步完成后,启动 Canal 服务,查看日志以确保启动成功:

    复制代码
    cd /home/xiangtan/canal/bin
    ./start.sh
    tail -f /home/xiangtan/canal/logs/example/example.log

    如果出现错误,需要先停止 Canal,然后删除 /home/xiangtan/canal/conf/example 下的 meta.dat 文件,再启动 Canal。

  5. 当 Canal 服务正常后,启动 Canal-Adapter 服务,并查看日志:

    复制代码
    cd /home/xiangtan/canal-adapter/bin
    ./start.sh
    tail -f /home/xiangtan/canal-adapter/logs/adapter/adapter.log
  6. 数据可能仍然不完整,需要使用 Logstash 手动同步全部数据:

    复制代码
    cd /home/xiangtan/canal-adapter/elk
    sudo /usr/share/logstash/bin/logstash -f 1-tbl_ps_device_info.conf 
    sudo /usr/share/logstash/bin/logstash -f 2-tbl_video_device_info.conf 
    sudo /usr/share/logstash/bin/logstash -f 3-tbl_ps_order_in.conf 
    sudo /usr/share/logstash/bin/logstash -f 4-tbl_ps_order_out.conf 
    sudo /usr/share/logstash/bin/logstash -f 5-tbl_user_info.conf 
    sudo /usr/share/logstash/bin/logstash -f 6-tbl_order_in_pay_log.conf 
    sudo /usr/share/logstash/bin/logstash -f 7-tbl_order_out_pay_log.conf 
    sudo /usr/share/logstash/bin/logstash -f 8-tbl_sparking.conf 
    sudo /usr/share/logstash/bin/logstash -f 9-tbl_account_payment_log.conf 
    sudo /usr/share/logstash/bin/logstash -f 10-tbl_parking_manager.conf 
    sudo /usr/share/logstash/bin/logstash -f 11-tbl_bat_txn.conf
    sudo /usr/share/logstash/bin/logstash -f 12-tbl_bat_pay_txn.conf 
    sudo /usr/share/logstash/bin/logstash -f 13-tbl_bse_info_mchnt.conf

这些步骤可帮助您维护服务器,确保 Canal 和 Canal-Adapter 服务正常运行,并手动同步数据以确保数据完整性。

最后把监控加上

复制代码
cd /home/xiangtan/canal-adapter/logs/adapter
nohup ./monitor.sh &
相关推荐
孤独得猿6 分钟前
Qt常用控件第一部分
服务器·开发语言·qt
益莱储中国15 分钟前
世界通信大会、嵌入式展及慕尼黑上海光博会亮点回顾
大数据
不爱吃鱼的猫-22 分钟前
Node.js 安装与配置全攻略:从入门到高效开发
服务器·node.js
斯普信专业组39 分钟前
Ceph异地数据同步之-RBD异地同步复制(下)
linux·服务器·ceph
电星托马斯1 小时前
Linux系统CentOS 6.3安装图文详解
linux·运维·服务器·程序人生·centos
啞謎专家1 小时前
CentOS中挂载新盘LVM指南:轻松扩展存储空间,解决磁盘容量不足问题
linux·运维·服务器
Loving_enjoy1 小时前
基于Hadoop的明星社交媒体影响力数据挖掘平台:设计与实现
大数据·hadoop·数据挖掘
s_little_monster1 小时前
【Linux】进程信号的捕捉处理
linux·运维·服务器·经验分享·笔记·学习·学习方法
浮尘笔记1 小时前
go-zero使用elasticsearch踩坑记:时间存储和展示问题
大数据·elasticsearch·golang·go
melck2 小时前
liunx日志查询常用命令总结
java·服务器·网络