ubuntu_定制文件系统[2]-清理日志log

1.问题现象

  1. 系统长时间运行, 产生大量的系统日志
    ubuntu/debian 系统日志如下
    /var/log$ du -sh *

31M syslog # syslog日志

61M syslog.1

2.5G journal/ # systemd service日志

  1. 当日志文件过大, 硬盘空间占用100%时, 导致各种异常
  • 命令按tab补全无响应
  • 服务/进程启动异常
  • 服务/进程运行异常

2.问题原因

  1. 系统日志过大原因: 使用ubuntu非官方发行版本
    1. 使用ubuntu桌面发行版,自带日志清理服务
    2. 项目使用的ubuntu-base 根文件, 定制根文件系统, 集成需要的工具,库,配置; 没有发行版本, 日志清理的服务
  2. 需要定制清除日志脚本

3.解决方案

  • 方案1: cron定时任务清理日志
  • 方案2: 开机服务脚本,周定时清理日志
  • 方案3: logrotate 管理日志大小,备份,清理

最终使用方案3, logrotate 管理日志大小,备份,清理, 符合项目开发与运行需求.

  1. cron清除日志,无法备份,无法追溯几天前的日志.
  2. 开机服务脚本, 要实现管理日志大小, 备份, 清理的功能. 浪费人力开发脚本, 不如 logrotate 配置方便.

4.logrotate安装与配置实例

安装前置依赖 sudo apt install cron rsyslog

安装 sudo apt instlal logrotate

教程 https://www.cnblogs.com/carsonzhu/p/16904219.html

1.教程

1. logrotate 主要参数表
2.系统默认的配置参考

ls /etc/logrotate.d

alternatives apt aptitude btmp dpkg pm-utils rsyslog wtmp

cat /etc/logrotate.d/rsyslog

复制代码
/var/log/syslog
{
	rotate 7
	daily
	missingok
	notifempty
	delaycompress
	compress
	postrotate
		/usr/lib/rsyslog/rsyslog-rotate
	endscript
}

/var/log/mail.info
/var/log/mail.warn
/var/log/mail.err
/var/log/mail.log
/var/log/daemon.log
/var/log/kern.log
/var/log/auth.log
/var/log/user.log
/var/log/lpr.log
/var/log/cron.log
/var/log/debug
/var/log/messages
{
	rotate 4
	weekly
	missingok
	notifempty
	compress
	delaycompress
	sharedscripts
	postrotate
		/usr/lib/rsyslog/rsyslog-rotate
	endscript
}

2.实例

1.手动logrotate运行测试

配置脚本

vim /etc/logrotate.d/liuj_tmp_log

复制代码
/tmp/liuj/*.log {
    size=50K
    daily
    rotate 5
    compress
    missingok
    notifempty
    create 664 liuj liuj
}

生成日志
cd /tmp/liuj; dd if=/dev/zero of=xxx.log bs=1M count=1
du -sh *

1.0M xxx.log

或用脚本生成日志.

手动整理日志
logrotate -vf /etc/logrotate.d/liuj_tmp_log

查看整理之后的结果 du -sh *

0 xxx.log

4.0K xxx.log.1.gz -->整理之后的文件大小

2.限制syslog大小

vim /etc/logrotate.d/rsyslog

diff 复制代码
/var/log/syslog
{
	rotate 7
	daily
++	size=50M
	missingok
	notifempty
	delaycompress
	compress
	postrotate
		/usr/lib/rsyslog/rsyslog-rotate
	endscript
}

3.管理ros程序日志

设置系统 ros 日志位置

/etc/profile.d/ros_env.sh

复制代码
source /opt/ros/noetic/setup.bash
export ROS_LOG_DIR=/userdata/workdir/ros_log

查看环境变量是否生效
echo $ROS_LOG_DIR

/userdata/workdir/ros_log

限制 ros 程序日志规则

vim /etc/logrotate.d/ros_log

复制代码
/userdata/workdir/ros_log/*.log
{
	rotate 5
	daily
	size=20M
	missingok
	notifempty
	delaycompress
	compress
	postrotate
		/usr/lib/rsyslog/rsyslog-rotate
	endscript
}

4.限制systemd service的日志大小

  • systemd service有自己的限制日志规则
    ls /var/log/journal/6d021ad1f019488facfc7e6e7ec8236f

system.journal

system@faa337787dbc4bd49fdcaa0ceea09a96-00000000000871b0-0006123fac856242.journal

system@583db54cb7cb466c9a3c7678bc0766f2-0000000000012a2c-00060f97925e7c17.journal

user-1000.journal

user-1000@b4fe8171a42f4f60a0a05c69bcfe1a5d-000000000009617d-0006124487b7d8a8.journal

user-1000@3ecd5eb819b04efb9e9bba24908511e4-0000000000083c8a-0006109ff49ba016.journal

目前使用的方案是:

  1. 使用logrotate限制 system.journal, user-1000.journal
  2. 使用cron定时任务 删除大于20M, 或超过7天的日志
  3. 服务进程每次重启时, 尝试步删除大于20M, 或超过7天的日志

5.总结

  1. ubunt桌面发行版有日志清理服务, 基于ubuntu-base定制文件系统固件, 需要自己编写清除日志脚本.
  2. logrotate是便捷的日志限制大小, 备份, 配置简单的管理工具.
  3. 磁盘空间占用100%, 会导致各种运行异常.
  4. 解决各种异常问题, 减少无效日志输出, 限制错误日志, 或通过配置选项开启调试模式. 减少磁盘/flash写操作, 延长产品寿命.

参考

  • logrotate原理:

/lib/systemd/system/logrotate.service

/lib/systemd/system/logrotate.timer


相关推荐
白鲸开源15 小时前
Ubuntu 22 下 DolphinScheduler 3.x 伪集群部署实录
java·ubuntu·开源
LH_R1 天前
OneTerm开源堡垒机实战(四):访问授权与安全管控
运维·后端·安全
用户31187945592181 天前
Kylin Linux 10 安装 glib2-devel-2.62.5-7.ky10.x86_64.rpm 方法(附安装包)
linux
Raymond运维1 天前
MariaDB源码编译安装(二)
运维·数据库·mariadb
涛啊涛1 天前
Centos7非LVM根分区容量不足后扩容,对调硬盘挂载/
linux·磁盘管理
JuiceFS2 天前
从 MLPerf Storage v2.0 看 AI 训练中的存储性能与扩展能力
运维·后端
CYRUS_STUDIO2 天前
用 Frida 控制 Android 线程:kill 命令、挂起与恢复全解析
android·linux·逆向
熊猫李2 天前
rootfs-根文件系统详解
linux
chen9452 天前
mysql 3节点mgr集群部署
运维·后端
LH_R2 天前
OneTerm开源堡垒机实战(三):功能扩展与效率提升
运维·后端·安全