ubuntu_定制文件系统[2]-清理日志log

1.问题现象

  1. 系统长时间运行, 产生大量的系统日志
    ubuntu/debian 系统日志如下
    /var/log$ du -sh *

31M syslog # syslog日志

61M syslog.1

2.5G journal/ # systemd service日志

  1. 当日志文件过大, 硬盘空间占用100%时, 导致各种异常
  • 命令按tab补全无响应
  • 服务/进程启动异常
  • 服务/进程运行异常

2.问题原因

  1. 系统日志过大原因: 使用ubuntu非官方发行版本
    1. 使用ubuntu桌面发行版,自带日志清理服务
    2. 项目使用的ubuntu-base 根文件, 定制根文件系统, 集成需要的工具,库,配置; 没有发行版本, 日志清理的服务
  2. 需要定制清除日志脚本

3.解决方案

  • 方案1: cron定时任务清理日志
  • 方案2: 开机服务脚本,周定时清理日志
  • 方案3: logrotate 管理日志大小,备份,清理

最终使用方案3, logrotate 管理日志大小,备份,清理, 符合项目开发与运行需求.

  1. cron清除日志,无法备份,无法追溯几天前的日志.
  2. 开机服务脚本, 要实现管理日志大小, 备份, 清理的功能. 浪费人力开发脚本, 不如 logrotate 配置方便.

4.logrotate安装与配置实例

安装前置依赖 sudo apt install cron rsyslog

安装 sudo apt instlal logrotate

教程 https://www.cnblogs.com/carsonzhu/p/16904219.html

1.教程

1. logrotate 主要参数表
2.系统默认的配置参考

ls /etc/logrotate.d

alternatives apt aptitude btmp dpkg pm-utils rsyslog wtmp

cat /etc/logrotate.d/rsyslog

/var/log/syslog
{
	rotate 7
	daily
	missingok
	notifempty
	delaycompress
	compress
	postrotate
		/usr/lib/rsyslog/rsyslog-rotate
	endscript
}

/var/log/mail.info
/var/log/mail.warn
/var/log/mail.err
/var/log/mail.log
/var/log/daemon.log
/var/log/kern.log
/var/log/auth.log
/var/log/user.log
/var/log/lpr.log
/var/log/cron.log
/var/log/debug
/var/log/messages
{
	rotate 4
	weekly
	missingok
	notifempty
	compress
	delaycompress
	sharedscripts
	postrotate
		/usr/lib/rsyslog/rsyslog-rotate
	endscript
}

2.实例

1.手动logrotate运行测试

配置脚本

vim /etc/logrotate.d/liuj_tmp_log

/tmp/liuj/*.log {
    size=50K
    daily
    rotate 5
    compress
    missingok
    notifempty
    create 664 liuj liuj
}

生成日志
cd /tmp/liuj; dd if=/dev/zero of=xxx.log bs=1M count=1
du -sh *

1.0M xxx.log

或用脚本生成日志.

手动整理日志
logrotate -vf /etc/logrotate.d/liuj_tmp_log

查看整理之后的结果 du -sh *

0 xxx.log

4.0K xxx.log.1.gz -->整理之后的文件大小

2.限制syslog大小

vim /etc/logrotate.d/rsyslog

diff 复制代码
/var/log/syslog
{
	rotate 7
	daily
++	size=50M
	missingok
	notifempty
	delaycompress
	compress
	postrotate
		/usr/lib/rsyslog/rsyslog-rotate
	endscript
}

3.管理ros程序日志

设置系统 ros 日志位置

/etc/profile.d/ros_env.sh

source /opt/ros/noetic/setup.bash
export ROS_LOG_DIR=/userdata/workdir/ros_log

查看环境变量是否生效
echo $ROS_LOG_DIR

/userdata/workdir/ros_log

限制 ros 程序日志规则

vim /etc/logrotate.d/ros_log

/userdata/workdir/ros_log/*.log
{
	rotate 5
	daily
	size=20M
	missingok
	notifempty
	delaycompress
	compress
	postrotate
		/usr/lib/rsyslog/rsyslog-rotate
	endscript
}

4.限制systemd service的日志大小

  • systemd service有自己的限制日志规则
    ls /var/log/journal/6d021ad1f019488facfc7e6e7ec8236f

system.journal

system@faa337787dbc4bd49fdcaa0ceea09a96-00000000000871b0-0006123fac856242.journal

system@583db54cb7cb466c9a3c7678bc0766f2-0000000000012a2c-00060f97925e7c17.journal

user-1000.journal

user-1000@b4fe8171a42f4f60a0a05c69bcfe1a5d-000000000009617d-0006124487b7d8a8.journal

user-1000@3ecd5eb819b04efb9e9bba24908511e4-0000000000083c8a-0006109ff49ba016.journal

目前使用的方案是:

  1. 使用logrotate限制 system.journal, user-1000.journal
  2. 使用cron定时任务 删除大于20M, 或超过7天的日志
  3. 服务进程每次重启时, 尝试步删除大于20M, 或超过7天的日志

5.总结

  1. ubunt桌面发行版有日志清理服务, 基于ubuntu-base定制文件系统固件, 需要自己编写清除日志脚本.
  2. logrotate是便捷的日志限制大小, 备份, 配置简单的管理工具.
  3. 磁盘空间占用100%, 会导致各种运行异常.
  4. 解决各种异常问题, 减少无效日志输出, 限制错误日志, 或通过配置选项开启调试模式. 减少磁盘/flash写操作, 延长产品寿命.

参考

  • logrotate原理:

/lib/systemd/system/logrotate.service

/lib/systemd/system/logrotate.timer


相关推荐
Zfox_12 分钟前
【Linux】进程信号全攻略(二)
linux·运维·c语言·c++
安於宿命16 分钟前
【Linux】简易版shell
linux·运维·服务器
追梦不止~24 分钟前
Docker常用命令+详解
运维·docker·容器
黑龙江亿林等保27 分钟前
深入探索哈尔滨二级等保下的负载均衡SLB及其核心算法
运维·算法·负载均衡
黄小耶@28 分钟前
linux常见命令
linux·运维·服务器
叫我龙翔29 分钟前
【计网】实现reactor反应堆模型 --- 框架搭建
linux·运维·网络
古驿幽情31 分钟前
CentOS AppStream 8 手动更新 yum源
linux·运维·centos·yum
BillKu32 分钟前
Linux(CentOS)安装 Nginx
linux·运维·nginx·centos
BillKu36 分钟前
Linux(CentOS)yum update -y 事故
linux·运维·centos
a2663789641 分钟前
解决yum命令报错“Could not resolve host: mirrorlist.centos.org
linux·运维·centos