ZooKeeper日志自动清理实用脚本

ZooKeeper日志自动清理:保持系统整洁的实用脚本

在管理ZooKeeper集群时,定期清理日志文件是一项重要但常被忽视的任务。本文将介绍一个简单而有效的bash脚本,用于自动清理ZooKeeper的日志和快照文件,并讨论如何使用cron来定期执行此脚本。

磁盘告警,所以写了一个脚本 定期清理。

脚本内容

首先,让我们看看这个清理脚本的内容:

bash 复制代码
#!/bin/bash

#snapshot file dir
dataDir=/var/zookeeper/version-2
#tran log dir
dataLogDir=/var/zookeeper/version-2
logDir=/usr/local/zookeeper/logs
#Leave 60 files
count=60
count=$[$count+1]
ls -t $dataLogDir/log.* | tail -n +$count | xargs rm -f
ls -t $dataDir/snapshot.* | tail -n +$count | xargs rm -f
ls -t $logDir/zookeeper.log.* | tail -n +$count | xargs rm -f

脚本解析

让我们逐行分析这个脚本:

  1. #!/bin/bash: 这是shebang,指定使用bash解释器执行此脚本。

  2. 定义了三个目录变量:

    • dataDir: 存储快照文件的目录
    • dataLogDir: 存储事务日志的目录
    • logDir: 存储ZooKeeper日志的目录
  3. count=60: 设置保留的文件数量为60个。

  4. count=$[$count+1]: 将count增加1,这是为了在使用tail命令时正确计算要删除的文件数。

  5. 接下来的三行是清理逻辑的核心:

    bash 复制代码
    ls -t $dataLogDir/log.* | tail -n +$count | xargs rm -f
    ls -t $dataDir/snapshot.* | tail -n +$count | xargs rm -f
    ls -t $logDir/zookeeper.log.* | tail -n +$count | xargs rm -f

    每行都执行以下操作:

    • ls -t: 按时间顺序列出文件
    • tail -n +$count: 选择旧于前60个的所有文件
    • xargs rm -f: 删除这些文件

自动化执行

要自动执行这个脚本,我们可以使用cron。以下是一个cron表达式示例:

复制代码
2 2 * * * /bin/bash /data/www/cleanlog.sh > /dev/null 2>&1

这个cron表达式的含义是:

  • 每天凌晨2:02执行脚本
  • 脚本输出被重定向到/dev/null,不保存日志

结论

这个简单的脚本可以有效地管理ZooKeeper的日志和快照文件,防止磁盘空间被耗尽。通过cron自动化执行,可以确保系统始终保持整洁和高效。在实际部署时,请根据您的具体需求和环境调整脚本参数和执行频率。

相关推荐
敏叔V5871 天前
联邦学习与大模型:隐私保护下的分布式模型训练与微调方案
分布式
短剑重铸之日1 天前
《7天学会Redis》特别篇: Redis分布式锁
java·redis·分布式·后端·缓存·redission·看门狗机制
重生之绝世牛码1 天前
Linux软件安装 —— zookeeper集群安装
大数据·linux·运维·服务器·zookeeper·软件安装
重生之绝世牛码1 天前
Linux软件安装 —— kafka集群安装(SASL密码验证)
大数据·linux·运维·服务器·分布式·kafka·软件安装
皓月盈江1 天前
个人计算机Linux Debian桌面操作系统上网安全防护措施
linux·ubuntu·网络安全·debian·桌面操作系统·上网安全防护措施
填满你的记忆1 天前
【从零开始——Redis 进化日志|Day5】分布式锁演进史:从 SETNX 到 Redisson 的完美蜕变
java·数据库·redis·分布式·缓存
無森~1 天前
ZooKeeper
分布式·zookeeper·云原生
小北方城市网1 天前
SpringBoot 集成 MinIO 实战(对象存储):实现高效文件管理
java·spring boot·redis·分布式·后端·python·缓存
Blossom.1181 天前
大模型分布式训练通信优化:从Ring All-Reduce到分层压缩的实战演进
人工智能·分布式·python·深度学习·神经网络·机器学习·迁移学习
码农水水1 天前
得物Java面试被问:大规模数据的分布式排序和聚合
java·开发语言·spring boot·分布式·面试·php·wpf