LNMP 环境下使用 Zstd 压缩优化网站备份脚本

网站的备份一直都是网站运营、服务器运维中很重要的一环,明月无论是在自己的服务器还是客户的代运维服务器上都是非常重视网站备份的,尤其热衷于优化网站备份这块儿,毕竟明月自己的服务器配置一直都是最低的 1H1G 呀,就这配置常年都是 4-5 个网站放着呢!明月的博客毕竟有十来年了,单单网站文件就占用了至少 5G 了,这还不包括数据库的占用。

随着网站文件的日积月累,LNMP 环境下网站备份脚本的运行效率是越来越吃力了,以前都是每天一次备份的,现在因为备份期间服务器负载飙升相当恐怖都改成一周一次备份了:

有图有真相,备份期间明月服务器的负载(load avvrage)情况实时截图

这个负载值已经严重影响备份期间网站的正常访问了,甚至会出现 503、502 等错误,反正每次备份期间,明月是不敢去访问网站的,并且这个过程持续的时间一般都在 2-3 个小时左右,很明显这不科学呀。

经过对 LNMP 环境下网站备份脚本 backup.sh 代码的分析,发现造成备份期间服务器负载持续飙升的罪魁祸首是备份时的压缩算法 gzip,上面的截图里就可以看到备份期间 gzip 的进程占据了很多,明月简单统计了一下能有 20-30 多个 gzip 进程,压缩是需要大量的 CPU 运算和内存的,明月服务器的 1H1G 很明显是承受不了这么"蹂躏"的,是时候给网站备份脚本更换压缩算法了。这时候看到了一则旧闻:

这个 Zstd 压缩算法真的是太牛逼了,Linux 内核组件都在用了,那要是拿来用在网站备份上也不知道是个啥效果,于是果断施展搜索大法一番了解后得出结论完全没有问题的,于是就诞生了【Zstd(Zstandard)助力网站备份利器】的运维学习笔记,又因为实操发现有了【更新 tar 命令到最新版本】笔记,先在自己服务器上调试一番后终于成功实现了用 Zstd 压缩算法网站备份,马上给一个客户的服务器也用上了,效果非常的好,备份结果对比一下也是非常的满意:

上图左边是 gzip 压缩算法备份的网站文件和数据库导出的 sql 大小,右边是采用 Zstd 压缩算法后备份产生的文件大小

虽然对比网站文件在大小上没有很明显的差异,这主要是因为服务器硬件配置和压缩参数的问题,可以进行调优来改善的,明月最喜欢的是采用 Zstd 压缩算法后备份期间的服务器负载表现都快亮瞎眼了:

这是明月自己 1H1G 服务器备份期间的负载实时截图

这是客户服务器(1H2G,老薛海外云主机)备份期间的负载实时截图

这负载直接下降了近十倍呀,太神奇了吧!哈哈!并且明月持续观察了很长一段时间,都是这个状态,波动也都是维持在个位数而已,备份期间完全不影响网站的访问、登录等等,并且整体的备份耗时至少缩减了一倍还多,整个备份期间无论是前端还是后端都是毫无感受,看来明月这 1H1G 配置的服务器还能再挺几年是没有问题的了!完美!!!

又在多个不同客户、不同地域、不同硬件配置、不同服务器生产环境上测试后,实测证明 Zstd 压缩算法的强大真不是盖的的,Linux 内核都采用了可见一斑!好了,废话不多说了,下面给大家分享一下明月的这个 Zstd 压缩算法的网站备份脚本代码:

要在服务器上用 Zstd 压缩算法有两个必备条件:

上述两个条件是必备的,否则下面的脚本是没法执行的哦!

这里我们以军哥 LNMP 一键安装包里的网站备份脚本 backup.sh 为例,里面原本的压缩备份打包文件的代码如下:

复制代码
TodayWWWBackup=www-*-$(date +"%Y%m%d").tar.gz
TodayDBBackup=db-*-$(date +"%Y%m%d").sql
OldWWWBackup=www-*-$(date -d -3day +"%Y%m%d").tar.gz
OldDBBackup=db-*-$(date -d -3day +"%Y%m%d").sql

Backup_Dir()
{
    Backup_Path=$1
    Dir_Name=`echo ${Backup_Path##*/}`
    Pre_Dir=`echo ${Backup_Path}|sed 's/'${Dir_Name}'//g'`
    tar zcf ${Backup_Home}www-${Dir_Name}-$(date +"%Y%m%d").tar.gz -C ${Pre_Dir} ${Dir_Name}
}
Backup_Sql()
{
    ${MySQL_Dump} -u$MYSQL_UserName -p$MYSQL_PassWord $1 > ${Backup_Home}db-$1-$(date +"%Y%m%d").sql
}

只需要对照修改成下面代码即可:

复制代码
TodayWWWBackup=www-*-$(date +"%Y%m%d").tar.zst
TodayDBBackup=db-*-$(date +"%Y%m%d").sql.zst
OldWWWBackup=www-*-$(date -d -1day +"%Y%m%d").tar.zst
OldDBBackup=db-*-$(date -d -1day +"%Y%m%d").sql.zst

Backup_Dir()
{
    Backup_Path=$1
    Dir_Name=`echo ${Backup_Path##*/}`
    Pre_Dir=`echo ${Backup_Path}|sed 's/'${Dir_Name}'//g'`
    tar '-I zstd -19 -T0' -cf ${Backup_Home}www-${Dir_Name}-$(date +"%Y%m%d").tar.zst -C ${Pre_Dir} ${Dir_Name}
}
Backup_Sql()
{
    ${MySQL_Dump} -u$MYSQL_UserName -p$MYSQL_PassWord $1 | zstd -19 -T0 > ${Backup_Home}db-$1-$(date +"%Y%m%d").sql.zst
}

完成后,保存退出即可,想测试了也可以直接备份一下实测对比一下结果,其中上述代码里 zstd 命令后面的参数可以根据自己的服务器硬件配置进行调整的会有意想不到的效果的哦!

参数:-19

指的是压缩等级为 19,这是目前默认最高的,效果取决于你的内存了,内存越多效果越好。

参数: -T0

指的是压缩的时候使用所有 CPU,会影响压缩比的哦,比如你是 4H 的 CPU 就是 -T4,其他配置一次类推即可。

上图就是一个 8H 服务器备份期间负载截图,结果是 4G 的网站文件压缩到了 2.5G,很牛逼的压缩比了!

目前,明月所有代运维的服务器都已经采用 Zstd 压缩算法网站备份了,毕竟效果那是真的没的说,看来明月很有必要给军哥 LNMP 一键安装包也建议一下对 Zstd 的支持了,毕竟独乐乐不如众乐乐呀!先分享给有需要的站长朋友再说了!

相关推荐
三无推导1 小时前
GitHub爆火项目ChinaTextbook——开源如何重新定义教育普惠的边界
学习·开源·github
韩数1 小时前
为了能同时开发多个项目,我烧了几亿 token 开源了一个轻量级 AI-Native IDE
后端·程序员·github
硬汉嵌入式1 小时前
GitHub Copilot for Eclipse 即将开源
eclipse·github·copilot
小雨青年2 小时前
GitHub Actions 工作流性能优化实战
性能优化·github
Roselind_Yi2 小时前
【开源仓库系列学习分享】MemPalace 仓库(超级记忆管家)全流程部署!(专业版)
人工智能·经验分享·笔记·python·数据挖掘·github·知识图谱
玄奕子2 小时前
VS Code 上传 GitHub 全流程(Windows 环境):HTTP 与 SSH 两种方案(含常见报错排查)
git·http·ssh·github·嵌入式开发
航Hang*13 小时前
VMware vSphere 云平台运维与管理基础——第2章(扩展):VMware ESXi 5.5 安装、配置与运维
运维·服务器·github·系统安全·虚拟化
zh_xuan15 小时前
Visual Studio 上传工程到github
ide·git·github·visual studio
CoovallyAIHub16 小时前
视频理解新范式:Agent不再被动看视频,LensWalk让它自己决定看哪里
算法·架构·github
CoovallyAIHub17 小时前
斯坦福丨AirVLA:将地面机械臂模型迁移至无人机实现空中抓取,成功率从23%提升至50%
算法·架构·github