LNMP 环境下使用 Zstd 压缩优化网站备份脚本

网站的备份一直都是网站运营、服务器运维中很重要的一环,明月无论是在自己的服务器还是客户的代运维服务器上都是非常重视网站备份的,尤其热衷于优化网站备份这块儿,毕竟明月自己的服务器配置一直都是最低的 1H1G 呀,就这配置常年都是 4-5 个网站放着呢!明月的博客毕竟有十来年了,单单网站文件就占用了至少 5G 了,这还不包括数据库的占用。

随着网站文件的日积月累,LNMP 环境下网站备份脚本的运行效率是越来越吃力了,以前都是每天一次备份的,现在因为备份期间服务器负载飙升相当恐怖都改成一周一次备份了:

有图有真相,备份期间明月服务器的负载(load avvrage)情况实时截图

这个负载值已经严重影响备份期间网站的正常访问了,甚至会出现 503、502 等错误,反正每次备份期间,明月是不敢去访问网站的,并且这个过程持续的时间一般都在 2-3 个小时左右,很明显这不科学呀。

经过对 LNMP 环境下网站备份脚本 backup.sh 代码的分析,发现造成备份期间服务器负载持续飙升的罪魁祸首是备份时的压缩算法 gzip,上面的截图里就可以看到备份期间 gzip 的进程占据了很多,明月简单统计了一下能有 20-30 多个 gzip 进程,压缩是需要大量的 CPU 运算和内存的,明月服务器的 1H1G 很明显是承受不了这么"蹂躏"的,是时候给网站备份脚本更换压缩算法了。这时候看到了一则旧闻:

这个 Zstd 压缩算法真的是太牛逼了,Linux 内核组件都在用了,那要是拿来用在网站备份上也不知道是个啥效果,于是果断施展搜索大法一番了解后得出结论完全没有问题的,于是就诞生了【Zstd(Zstandard)助力网站备份利器】的运维学习笔记,又因为实操发现有了【更新 tar 命令到最新版本】笔记,先在自己服务器上调试一番后终于成功实现了用 Zstd 压缩算法网站备份,马上给一个客户的服务器也用上了,效果非常的好,备份结果对比一下也是非常的满意:

上图左边是 gzip 压缩算法备份的网站文件和数据库导出的 sql 大小,右边是采用 Zstd 压缩算法后备份产生的文件大小

虽然对比网站文件在大小上没有很明显的差异,这主要是因为服务器硬件配置和压缩参数的问题,可以进行调优来改善的,明月最喜欢的是采用 Zstd 压缩算法后备份期间的服务器负载表现都快亮瞎眼了:

这是明月自己 1H1G 服务器备份期间的负载实时截图

这是客户服务器(1H2G,老薛海外云主机)备份期间的负载实时截图

这负载直接下降了近十倍呀,太神奇了吧!哈哈!并且明月持续观察了很长一段时间,都是这个状态,波动也都是维持在个位数而已,备份期间完全不影响网站的访问、登录等等,并且整体的备份耗时至少缩减了一倍还多,整个备份期间无论是前端还是后端都是毫无感受,看来明月这 1H1G 配置的服务器还能再挺几年是没有问题的了!完美!!!

又在多个不同客户、不同地域、不同硬件配置、不同服务器生产环境上测试后,实测证明 Zstd 压缩算法的强大真不是盖的的,Linux 内核都采用了可见一斑!好了,废话不多说了,下面给大家分享一下明月的这个 Zstd 压缩算法的网站备份脚本代码:

要在服务器上用 Zstd 压缩算法有两个必备条件:

上述两个条件是必备的,否则下面的脚本是没法执行的哦!

这里我们以军哥 LNMP 一键安装包里的网站备份脚本 backup.sh 为例,里面原本的压缩备份打包文件的代码如下:

TodayWWWBackup=www-*-$(date +"%Y%m%d").tar.gz
TodayDBBackup=db-*-$(date +"%Y%m%d").sql
OldWWWBackup=www-*-$(date -d -3day +"%Y%m%d").tar.gz
OldDBBackup=db-*-$(date -d -3day +"%Y%m%d").sql

Backup_Dir()
{
    Backup_Path=$1
    Dir_Name=`echo ${Backup_Path##*/}`
    Pre_Dir=`echo ${Backup_Path}|sed 's/'${Dir_Name}'//g'`
    tar zcf ${Backup_Home}www-${Dir_Name}-$(date +"%Y%m%d").tar.gz -C ${Pre_Dir} ${Dir_Name}
}
Backup_Sql()
{
    ${MySQL_Dump} -u$MYSQL_UserName -p$MYSQL_PassWord $1 > ${Backup_Home}db-$1-$(date +"%Y%m%d").sql
}

只需要对照修改成下面代码即可:

TodayWWWBackup=www-*-$(date +"%Y%m%d").tar.zst
TodayDBBackup=db-*-$(date +"%Y%m%d").sql.zst
OldWWWBackup=www-*-$(date -d -1day +"%Y%m%d").tar.zst
OldDBBackup=db-*-$(date -d -1day +"%Y%m%d").sql.zst

Backup_Dir()
{
    Backup_Path=$1
    Dir_Name=`echo ${Backup_Path##*/}`
    Pre_Dir=`echo ${Backup_Path}|sed 's/'${Dir_Name}'//g'`
    tar '-I zstd -19 -T0' -cf ${Backup_Home}www-${Dir_Name}-$(date +"%Y%m%d").tar.zst -C ${Pre_Dir} ${Dir_Name}
}
Backup_Sql()
{
    ${MySQL_Dump} -u$MYSQL_UserName -p$MYSQL_PassWord $1 | zstd -19 -T0 > ${Backup_Home}db-$1-$(date +"%Y%m%d").sql.zst
}

完成后,保存退出即可,想测试了也可以直接备份一下实测对比一下结果,其中上述代码里 zstd 命令后面的参数可以根据自己的服务器硬件配置进行调整的会有意想不到的效果的哦!

参数:-19

指的是压缩等级为 19,这是目前默认最高的,效果取决于你的内存了,内存越多效果越好。

参数: -T0

指的是压缩的时候使用所有 CPU,会影响压缩比的哦,比如你是 4H 的 CPU 就是 -T4,其他配置一次类推即可。

上图就是一个 8H 服务器备份期间负载截图,结果是 4G 的网站文件压缩到了 2.5G,很牛逼的压缩比了!

目前,明月所有代运维的服务器都已经采用 Zstd 压缩算法网站备份了,毕竟效果那是真的没的说,看来明月很有必要给军哥 LNMP 一键安装包也建议一下对 Zstd 的支持了,毕竟独乐乐不如众乐乐呀!先分享给有需要的站长朋友再说了!

相关推荐
vvw&4 小时前
如何在 Ubuntu 22.04 上安装 Graylog 开源日志管理平台
linux·运维·服务器·ubuntu·开源·github·graylog
HelloGitHub5 小时前
跟着 8.6k Star 的开源数据库,搞 RAG!
开源·github
sdaxue.com17 小时前
帝国CMS:如何去掉帝国CMS登录界面的认证码登录
数据库·github·网站·帝国cms·认证码
m0_7482475518 小时前
github webhooks 实现网站自动更新
github
张国荣家的弟弟19 小时前
【Yonghong 企业日常问题04】永洪BI可视化工具Linux部署全攻略(部署详解版)
linux·运维·github
油泼辣子多加20 小时前
2024年12月23日Github流行趋势
github
lsalp1 天前
OpenAI于2024年12月21日在GitHub上正式发布了实时嵌入式SDK。支持ESP32-S3
物联网·github·esp32-s3
诸神缄默不语1 天前
如何在服务器上克隆、pull、push GitHub私有项目
运维·github
dami_king1 天前
项目开源能够带来什么?从中得到了什么?
开源·gitlab·github
沉默王二1 天前
虾皮开的很高,还有签字费。
后端·面试·github