MySQL 日志管理-备份与恢复
上一篇结尾简单写了怎么查询日志,需要记住, MySQL 的日志默认保存位置为 /usr/local/mysql/data
这篇之前,我们首先需要知道,为什么要做数据备份
在企业中,数据的价值至关重要,数据保障了企业业务的正常运行。因此,数据的安全性及数据的可靠性是运维的重中之重,任何数据的丢失都可能对企业产生严重的后果。
1、备份的主要目的是灾难恢复
2、在生产环境中,数据的安全性至关重要
3、任何数据的丢失都可能产生严重的后果
4、造成数据丢失的原因
通常情况下,造成数据丢失的原因通常有以下几种:
① 程序错误
② 人为操作错误
③ 运算错误
④ 磁盘故障
⑤ 灾难(火灾、地震)and 盗窃(黑客攻击)
一、备份
1. 数据备份的分类
从物理与逻辑的角度分类可以分为:物理备份、逻辑备份。
1.1 物理备份及方法
物理备份:对数据库操作系统的物理文件(如数据文件、日志文件等)的备份
物理备份方法:
① 冷备份(脱机备份):是在关闭数据库的时候进行的。
② 热备份(联机备份):数据库处于运行状态,依赖于数据库的日志文件。
③ 温备份:数据库锁定表格(不可写入但可读)的状态下进行备份操作。
1.2 逻辑备份
逻辑备份:对数据库逻辑组件(如:表等数据库对象)的备份。表示为逻辑数据库结构
这种类型的备份适用于可以编辑数据值或表结构 。
**从数据库的备份策略角度,备份分类可以分为:**完全备份、差异备份、增量备份
1.2.1 逻辑备份策略 - 完全备份
完全备份: 每次对数据进行完整的备份,即对整个数据库、数据库结构和文件结构的备份,保存的是备份完成时刻的数据库,是差异备份与增量备份的基础。完全备份的备份与恢复操作都非常简单方便,但是数据存在大量的重复,并且会占用大量的磁盘空间,备份的时间也很长
每次都进行完全备份,会导致备份文件占用空间巨大,并且有大量的重复数据,恢复时,直接使用完全备份的文件即可
优点:
备份与恢复操作简单方便
缺点:
数据存在大量的重复
占用大量的备份空间
备份与恢复时间长
1.2.2 逻辑备份策略 - 差异备份
差异备份: 备份那些自从上次完全备份之后被修改过的所有文件,备份的时间节点是从上次完整备份起,备份数据量会越来越大。恢复数据时,只需恢复上次的完全备份与最近的一次差异备份
每次差异备份,都会备份上一次完全备份之后的数据,可能会出现重复数据。恢复时,先恢复完全备份的数据,再恢复差异备份的数据
1.2.3 逻辑备份策略 - 增量备份
增量备份:只有在上次完全备份或者增量备份后被修改的文件才会被备份。以上次完整备份或上次增量备份的时间为时间点,仅备份这之间的数据变化,因而备份的数据量小,占用空间小,备份速度快。但恢复时,需要从上一次的完整备份开始到最后一次增量备份之的所有增量依次恢复,如中间某次的备份数据损坏,将导致数据的丢失
每次增量备份都是备份在上一次完全备份或者增量备份之后的数据,不会出现重复数据的情况,也不会占用额外的磁盘空间,恢复数据,需要按照次序恢复完全备份和增量备份的数据
备份的合理值区间
在了解了备份策略以后,我们可以根据实际情况,来选择逻辑备份策略(频率)
- 一周一次的全备,全备的时间需要在不提供业务的时间区间进行 PM 10点 AM 5:00之间进行全备
- 增量:3天/2天/1天一次增量备份
- 差异:选择特定的场景进行备份
- 一个处理(NFS)提供额外空间给与mysql 服务器用
2. 备份的方法
2.1 物理冷备
物理备份:备份时数据库处于关闭状态,直接打包数据库文件(tar) 备份速度快,恢复时也是最简单的
2.2 专用备份工具
2.2.1 mysqldump 或 mysqlhotcopy
① mysqldump
程序和 mysqlhotcopy
都可以做备份。 ② mysqldump
是客户端常用逻辑备份程序,能够产生一组被执行以后再现原始数据库对象定义和表数据的SQL语句。它可以转储一个到多个MySQL数据库,对其进行备份或传输到远程SQL服务器。mysqldump
更为通用 ,因为它可以备份各种表。 ③ mysqlhotcopy
仅适用于某些存储引擎(MyISAM和ARCHIVE)。
所以mysqldump
是较为常用的逻辑备份工具
mysqlhotcopy
仅适用备份 MyISAM 和 ARCHIVE 表
2.3 启用二进制日志进行增量备份:
进行增量备份,需要刷新二进制日志
MySQL 支持增量备份,进行增量备份时必须启用二进制日志。二进制日志文件为用户提供复制,对执行备份点后进行的数据库更改所需的信息进行恢复。如果进行增量备份(包含自上次完全备份或增量备份以来发生的数据修改),需要刷新二进制日志。
2.4 第三方备份工具
免费的MySQL 热备份软件 Percona XtraBackup
mysqlbackup
2.4.1 Percona XtraBackup
Percona XtraBackup
是一个免费的开源工具,允许您执行 MySQL 和Percona Server 数据库的热备份。它创建数据库的一致备份,而不会阻塞任何正在进行的事务,也不会影响数据库的性能。
通过使用Percona XtraBackup
,您可以在 MySQL 数据库仍在运行时进行备份,确保最小的停机时间。它使用非阻塞技术来复制数据库文件,包括InnoDB 和 MyISAM 数据文件、二进制日志和其他日志文件。然后可以恢复这些备份,以便在发生硬件故障、数据损坏或其他灾难时快速恢复数据库。
Percona XtraBackup
还提供了额外的功能,如增量备份、压缩、加密和并行处理,这些功能可以帮助优化备份和恢复操作。它提供命令行工具来管理备份并在必要时恢复备份。
请注意,Percona XtraBackup
是专门为 MySQL 和 Percona Server数据库设计的,可能与其他数据库管理系统不兼容。它广泛用于生产环境,建议用于可靠和高效的数据库备份。
二、恢复
1. MySQL 的完全备份与恢复
1.1 物理冷备份与恢复
bash
systemctl stop mysqld
yum -y install xz
#压缩备份
tar Jcvf /opt/mysql_all_$(date +%F).tar.xz /usr/local/mysql/data/
mv /usr/local/mysql/data/ /opt/
#解压恢复
mv /usr/local/mysql/data/* ./
mkdir /usr/local/mysql/data/
tar Jxvf /opt/mysql_all_2023-09-21.tar.xz -C /usr/local/mysql/data/
1.2 mysqldump 备份与恢复(温备份)
完全备份
mysql
mysqldump逻辑热备:
mysqldump -uXXX -p[XXX] --databases 库1 [库2 ...] > XXX.sql
#备份一个或多个库及库中的表数据
mysqldump -uXXX -p[XXX] --all-databases > XXX.sql
#备份所有的库
mysqldump -uXXX -p[XXX] 库名 > XXX.sql
#备份指定库中的所有表数据(不包含创建库的操作)
mysqldump -uXXX -p[XXX] 库名 表1 表2 ... > XXX.sql
#备份指定库中的一个或多个表数据(不包含创建库的操作)
##PS:
mysqldump -u root -p [-d] class info1 info2 > /opt/class_info1.sql
#使用"-d"选项,说明只保存数据库的表结构 #不使用"-d"选项,说明表数据也进行备份
完全恢复
mysql
完全恢复两种方式:
1.先登录到mysql,再执行 source XXX路径.sql
(注:如果sql文件只包含表的备份,需要先创建库并use切换库)
2.在linux中导入:
mysql -uXXX -pXXX [库名] < XXX.sql
#如果sql文件只包含表的备份,要指定库名
查看备份文件
grep -v "^--" /opt/自定义的名称.sql | grep -v "^/" | grep -v "^$"
2. 增量备份
2.1 开启二进制日志
bash
1.开启二进制日志功能
vim /etc/my.cnf
[mysqld]
log-bin=mysql-bin
binlog_format = MIXED #可选,指定二进制日志(binlog)的记录格式为 MIXED
server-id = 1
二进制日志(binlog)有3种不同的记录格式:STATEMENT(基于SQL语句)、ROW(基于行)、MIXED(混合模式),默认格式是STATEMENT
2.2 先做完全备份
mysql
mysqldump -u root -p --all-databases > /opt/kgc_$(date +%F).sql
2.3 刷新二进制文件
可每天进行增量备份操作,生成新的二进制日志文件(例如 mysql-bin.000002
)
mysql
mysqladmin -u root -p flush-logs
2.4 模拟插入数据
mysql
use www;
insert into info1 values(3,'user3','male','game');
insert into info1 values(4,'user4','female','reading');
2.5 再次刷新二进制文件
mysql
mysqladmin -u root -p flush-logs
#之前的步骤4的数据库操作会保存到mysql-bin.000002文件中,之后数据库数据再发生变化则保存在mysql-bin.000003文件中
2.6 查看二进制文件的内容
mysql
mysqlbinlog --no-defaults --base64-output=decode-rows -v 二进制文件路径
#--base64-output=decode-rows:使用64位编码机制去解码并按行读取
#-v:显示详细内容
3. 增量备份恢复
3.1 一般恢复
将所有备份的二进制日志内容全部恢复
mysql
mysqlbinlog --no-defaults /opt/mysql-bin.000002 | mysql -u root -p
3.2 模拟丢失所有数据的恢复
mysql
use kgc;
drop table info1;
##模拟删除库
mysql -u root -p kgc < /opt/kgc_info1_2020-11-22.sql
##先做完全恢复
mysqlbinlog --no-defaults /opt/mysql-bin.000002 | mysql -u root -p
##再做增量恢复
3.3 断点恢复
如果需要恢复到某条SQL语句之前的所有数据,就stop在这个语句的位置点或时间点
如果需要恢复某条SQL语句及其之后的所有数据,就从这个语句的位置点或时间点start
3.3.1 基于位置恢复
mysql
mysqlbinlog --no-defaults --start-position='位置点' --stop-position='位置点' 二进制日志文件 | mysql -uXXX -pXXX
3.3.2 基于时间点恢复
mysql
mysqlbinlog --no-defaults --start-datetime='YYYY-mm-dd HH:MM:SS' --stop-datetime='YYYY-mm-dd HH:MM:SS' 二进制日志文件 | mysql -uXXX -pXXX