MySQL日志管理、备份与恢复

[mysqld]
##错误日志，用来记录当MySQL启动、停止或运行时发生的错误信息，默认已开启
log-error=/usr/local/mysql/data/mysql_error.log     #指定日志的保存位置和文件名


##通用查询日志，用来记录MySQL的所有连接和语句，默认是关闭的
general_log=ON
general_log_file=/usr/local/mysql/data/mysql_general.log
用于记录MySQL服务器接收到的所有SQL语句，包括成功的查询、失败的查询、连接和断开连接请求等所有操作。



##二进制日志(binlog)，用来记录所有更新了数据或者已经潜在更新了数据的语句，记录了数据的更改，
可用于数据恢复，默认已开启
log-bin=mysql-bin      
或
log_bin=mysql-bin


##中继日志
一般情况下它在Mysql主从同步（复制）、读写分离集群的从节点开启。主节点一般不需要这个日志
通过中继日志，从服务器可以按照主服务器上事务发生的顺序逐一执行相同的SQL操作，从而保证主从数据库
之间的数据一致性。


##慢查询日志，用来记录所有执行时间超过long_query_time秒的语句，可以找到哪些查询语句执行时间长，
以便提醒优化，默认是关闭的
s1ow_query_log=ON
slow_query_log_file=/usr/local/mysql/data/mysql_slow_query.log
long_query_time=5        #设置超过5秒执行的语句被记录，缺省时为10秒




##复制段
log-error=/usr/local/mysql/data/mysql_error.log
general_log=ON
general_log_file=/usr/local/mysql/data/mysql_general.log
log-bin=mysql-bin
slow_query_log=ON
slow_query_log_file=/usr/local/mysql/data/mysql_slow_query.log
long_query_time=5



systemctl restart mysqld
mysql -u root -P
show variables like 'general%';       #查看通用查询日志是否开启
show variables like 'log_bin%';       #查看二进制日志是否开启
show variables like '%slow%';         #查看慢查询日功能是否开启
show variables like 'long_query_time';    #查看慢查询时间设置
set global slow_query_log=ON;         #在数据库中设置开启慢查询的方法

其中 variables 表示变量    like 表示模糊查询

模糊查询字段含义：

xxx% 以xxx为开头的字段

%xxx 以xxx为结尾的字段

%xxx% 只要出现xxx字段的都会显示出来

xxx 精准查询

#二进制日志开启后，重启mysql 会在目录中查看到二进制日志

二、数据备份的重要性

1、备份的主要目的是灾难恢复

2、在生产环境中，数据的安全性至关重要

3、任何数据的丢失都可能产生严重的后果

造成数据丢失的原因

程序错误

人为操作错误

运算错误

磁盘故障

灾难 (如火灾、地震) 和盗窃

如何避免磁盘故障？

做 raid （raid 5 或 raid 1 0）
- 定期备份磁盘上的数据
- 上传云

三、备份类型

数据库备份可以分为物理备份 和逻辑备份。

1、物理备份

物理备份是对数据库操作系统的物理文件（如数据文件、日志文件等）的备份。这种类型的备份适用于在出现问题的时候需要快速恢复的大型重要数据库。

物理备份又可以称为冷备份 （脱机备份）、热备份 （连接备份）和温备份

① 冷备份 (脱机备份) ：是在关闭数据库的时候进行的（tar 打包）

② 热备份 (联机备份) ：数据库处于运行状态，依赖于数据库的日志文件（需要第三方工具 mysqlhotcopy mysqlbackup）

③ 温备份：数据库锁定表格(不可写入但可读)的状态下进行备份操作（mysqldump）

２、逻辑备份

逻辑备份是对数据库逻辑组件的备份.表示为逻辑数据库结构,这种类型的备份适用于可以编辑数据值或表结构

从数据库的备份策略角度 来看，备份又可分为完全备份 、差异备份 和增量备份

① 完全备份

每次对数据进行完整备份，即对整个数据库、数据库结构和文件结构的备份，保存的是备份完成时刻的数据库，是差异备份与增量备份的基础完全备份的备份与恢复操作都非常简单方便，但是数据存在大量的重复并且会占用大量的磁盘空间，备份的时间也很长

每次都进行完全备份，会导致备份文件占用空间巨大，并且有大量的重复数据

恢复时，直接使用完全备份的文件即可

② 差异备份

备份那些自从上次完全备份之后被修改过的所有文件，备份的时间节点是从上次完整备份起，备份数据量会越来越大。恢复数据时只需要恢复上次的完全备份与最佳的一次差异备份

每次差异备份，都会备份上一次完全备份之后的数据，可能会出现重复数据。

恢复时，先恢复完全备份的数据，再恢复差异备份的数据

③ 增量备份

只有那些在上次完全备份或者增量备份后被修改的文件才会被备份以上次完整备份或上次增量备份的时间为时间点，仅备份期间内的数据变化，因而备份的数据量小，占用空间小，备份速度快。

但恢复时，需要从上一次的完整备份开始到最后一次增量备份之间的所有增量依次恢复，如中间某次的备份数据损坏，将导致数据的丢失

每次增量备份都是备份在上一次完全备份或者增量备份之后的数据，不会出现重复数据的情况，也不会占用额外的磁盘空间

恢复数据，需要按照次序恢复完全备份和增量备份的数据

备份类型	定义	特点	备份频率
完全备份 (Full Backup)	备份数据库或文件系统的全部数据和结构信息	包含所有数据易于理解和恢复占用空间大，备份时间长恢复时仅需一份备份即可	每周进行一次全量备份
差异备份 (Differential Backup)	备份自上次完全备份以来所有更改的数据	占用空间小于全备，大于增量备份恢复时需要上次全备和最后一次差异备份随着时间推移，差异备份与全备的差距逐渐增大	选择特定的场景进行备份
增量备份 (Incremental Backup)	备份自上次备份以来所有更改的数据	占用空间最小，备份速度较快恢复时需要上次全备和所有增量备份每次增量备份仅包含自上次任何备份（全备或增量）以来的变化	3天/2天/1天一次增量备份

注解：

完全备份是最基础的备份方式，恢复时只需要还原一份完整的数据备份即可，但随着数据量的增长，备份所需时间和空间也随之增加。

差异备份相比完全备份节省空间，因为它仅备份自上一次完全备份以来变化的数据，但恢复时需要结合最后一次完全备份和最后一次差异备份。

增量备份是最节省空间的方式，但恢复时较为复杂，需要按照备份的时间顺序逐个还原所有增量备份，直至最后一个增量备份。

（三）常见的备份方法

1、物理冷备

备份时数据库处于关闭状态，直接打包数据库文件（tar）

备份速度快，恢复时也是最简单的

2、专用备份工具 mysqldump 或 mysqlhotcopy

mysqldump 常用的逻辑备份工具

mysqlhotcopy 仅拥有备份 MyISAM 和 ARCHIVE 表

3、启用二进制日志进行增量备份

进行增量备份，需要刷新二进制日志

MySQL支持增量备份，进行增量备份时必须启用二进制日志。二进制日志文件为用户提供复制，对执行备份点后进行的数据库更改所需的信息进行恢复。如果进行增量备份（包含自上次完全备份或增量备份以来发生的数据修改），需要刷新二进制日志。

4、第三方工具备份

免费的MySQL 热备份软件 Percona XtraBackup mysqlbackup

四、MySQL完全备份与恢复

完全备份是对整个数据库、数据库结构和文件结构的备份

完全备份保存的是备份完成时刻的数据库

完全备份是差异备份与增量备份的基础

1、优点：

备份与恢复操作简单方便

2、缺点：

数据存在大量的重复

占用大量的备份空间

备份与恢复时间长

4.1 数据库完全备份分类

1、物理冷备份与恢复

关闭MySQL数据库
使用tar命令直接打包数据库文件夹
直接替换现有MySQL目录即可

2、mysqldump备份与恢复

MySQL自带的备份工具，可方便实现对MySQL的备份
可以将指定的库、表导出为SQL 脚本
使用命令mysql导入备份的数据

实验部分：

环境准备：

create database bank;

use bank;

create table if not exists boddy (id int(3) not null auto_increment,name varchar(12) not null,hobby varchar(77),primary key (id));

insert into boddy (name,hobby) values ('hong','daqiu');

insert into boddy (name,hobby) values ('xiao','paozao');

MySQL完全备份与恢复

InnoDB 存储引擎的数据库在磁盘上存储成三个文件: db.opt(表属性文件)、表名.frm(表结构文件)、表名.ibd(表数据文件)。

1.物理冷备份与恢复

systemctl stop mysqld
yum -y install xz
# xz 是一款高效的文件压缩工具
mkdir /bank

#压缩备份
tar Jcf /bank/mysql_all_$(date +%F).tar.xz /usr/local/mysql/data
mv /usr/local/mysql/data/ /opt/

#解压恢复
tar Jxf mysql_all_2024-03-25.tar.xz -C /usr/local/mysql/data/
cd /usr/local/mysql/data
mv usr/local/mysql/data/* ./

2. mysqldump 备份（温备份）

create table hoyy (id int(3) not null,name varchar(12) not null,age int);

insert into hoyy values (1,'pop',15);

insert into hoyy values (2,'kok',16);

(1)、完全备份一个或多个完整的库(包括其中所有的表)

mysqldump -u root -p[密码] --databases 库名1 [库名2] ... > /备份路径/备份文件名.sql

#导出的就是数据库脚本文件

示例：

mysqldump -u root -p123456 --databases bank > /opt/bank.sql
##备份一个bank 库

mysqldump -u root -p123456 --databases mysql bank > /opt/mysql-bank.sql
#备份mysql 与 bank两个库

(2)、完全备份 MySQL 服务器中所有的库

mysqldump -u root -p[密码] --all-databases > /备份路径/备份文件名.sql

示例：

mysqldump -u root -p123456 --all-databases > /opt/all.sql

(3)、完全备份指定库中的部分表

mysqldump -u root -p[密码] 库名 [表名1] [表名2] ... > /备份路径/备份文件名.sql

示例：

mysqldump -u root -p123456 bank boddy hoyy > /opt/bank_boddy-hoyy.sql

在备份表的时候 使用"-d"选项，说明只保存数据库的表结构，做为一个表结构模板
不使用"-d"选项，说明表数据也进行备份

对表结构备份

mysqldump -u root -p123456 -d 库名表名 > /备份路径/备份文件名.sql

(4)查看备份文件

备份文件里有很多无用的信息查看起来很麻烦，使用grep过滤后查看。

grep -v "^--" /opt/bank_boddy-jiego.sql | grep -v "^/" | grep -v "^$"

3. mysql 恢复（Mysql 完全恢复）

#恢复数据库

使用mysqldump导出的文件，可使用导入的方法

source命令
mysql命令

使用source恢复数据库的步骤

登录到MySQL数据库

执行source备份sql脚本的路径

mysql -uroot -p123456

source /备份路径/备份文件名.sql

注意要先备份再实验
[root@mysql1 ~]# mysqldump -u root -p123456 --databases bank > /opt/bank.sql
#备份数据库bank。

[root@mysql1 ~]# mysqldump -u root -p123456 bank boddy hoyy > /opt/bank_boddy-hoyy.sql
#备份数据库bank 中的两张表（也可以分别备份）。


1.模拟数据库出现问题

[root@mysql1 ~]#mysql -u root -p123456 -e 'drop database bank;'
#删除数据库的表

恢复数据库
[root@mysql1 opt]#mysql -uroot -p123456 < /opt/bank.sql
或进入到数据库
mysql> source /opt/bank.sql




2.恢复数据表

[root@mysql1 ~]#mysql -uroot -p123456

mysql> use bank;
mysql> drop table boddy;
mysql> show tables;
+----------------+
| Tables_in_bank |
+----------------+
| hoyy           |         表少了一个
+----------------+
1 row in set (0.00 sec)

mysql> source /opt/bank_boddy-hoyy.sql
#注意！！要是两张表的备份其中一张表的数据没问题还对其内容进行更新，使用source恢复会恢复到
备份时的数据（没备份的新数据会消失）
恢复表的时候要在库的下面（use 库名）

[root@mysql1 ~]# mysqldump -u root -p123456 bank boddy > /opt/bank_boddy.sql

方式二：

mysql -u root -p123456 库名 < /备份路径/备份文件名.sql

[root@mysql1 opt]#mysql -u root -p123456 -e 'drop table bank.boddy;'

[root@mysql1 opt]# mysql -u root -p123456 bank < /opt/bank_boddy.sql
#恢复 boddy 表

[root@mysql1 opt]#mysql -u root -p123456 -e 'show tables from bank;'
mysql: [Warning] Using a password on the command line interface can be insecure.
+----------------+
| Tables_in_bank |
+----------------+
| boddy          |
| hoyy           |
+----------------+

**PS:**mysqldump 严格来说属于温备份，会需要对表进行写入的锁定

注意事项：

在完全备份与恢复实验中，假设现有 bank 库，bank 库中有一个 boddy 表，需要注意的一点为：

① 当备份时加 --databases ,表示针对于 bank 库
#备份命令
mysqldump -uroot -p123456 --databases bank > /opt/bank.sql

#恢复命令过程为：
mysql -uroot -p123456
drop database bank;
quit
mysql -uroot -p123456 < /opt/bank.sql


② 当备份时不加 --databases，表示针对 bank 库下所有的表
#备份命令
mysqldump -uroot -p123456 bank > /opt/bank_all.sql     备份bank库下所有的表

#恢复过程
mysql -uroot -p123456
drop database bank;
create database bank;
exit;
mysql -uroot -p123456 bank < /opt/bank_all.sql

当你在备份时加 --databases 就相当于把 整个库都备份了包括库里面的表
当你在备份时不加 --databases 就相当于对 这个库里面的表进行备份，如若没有指定库则无法恢复

主要原因在于两种方式的备份（前者会从"create databases"开始,而后者则全是针对表格进行操作）

4. 定时备份

在生产环境中，可以使用Shell脚本自动实现定时备份（时间频率需要确认）

crontab -e

0 1 * * 6 /usr/local/mysql/bin/mysqldump -uroot -p123456 bank boddy > /opt/bank_boddy_$(date +%Y%m%d).sql ;/usr/local/mysql/bin/mysqladmin -u root -p123456 flush-logs

五、MySQL 增量备份与恢复

MySQL数据库增量恢复分为

1.一般恢复

将所有备份的二进制日志内容全部恢复

2.基于位置恢复

数据库在某一时间点可能既有错误的操作也有正确的操作

可以基于精准的位置跳过错误的操作

发生错误节点之前的一个节点，上一次正确操作的位置点停止

3.基于时间点恢复

跳过某个发生错误的时间点实现数据恢复

在错误时间点停止，在下一个正确时间点开始

MySQL 增量备份

5.1 增备实验

1.开启二进制日志功能

vim /etc/my.cnf

[mysqld]

log-bin=mysql-bin

binlog_format = MIXED #可选，指定二进制日志(binlog)的记录格式为MIXED（混合输入）

server-id = 1 #可加可不加该命令

systemctl restart mysqld

二进制日志(binlog)有3种不同的记录格式: STATEMENT (基于SQL语句)、ROW(基于行)、MIXED(混合模式)，默认格式是STATEMENT

关于二进制日志的三种格式

① STATEMENT（基于SQL语句）:

每一条涉及到被修改的sql 都会记录在binlog中

缺点：日志量过大，如sleep()函数，last_insert_id()>，以及user-defined fuctions（udf）、主从复制等架构记录日志时会出现问题

总结：增删改查通过sql语句来实现记录，如果用高并发可能会出错，可能时间差异或者延迟，可能不是我们想象的恢复，可能你先删除或者在修改，可能会倒过来。准确率底

② ROW(基于行)

只记录变动的记录，不记录sql的上下文环境

缺点:如果遇到update......set....where true 那么binlog的数据量会越来越大

总结：update、delete都可以作用于多行数据，这些操作都会被记录在数据库的二进制日志中。

只会记录变动的记录，不记录sql的上下文环境，

比如sql语句记录一行，但是ROW就可能记录10行，但是准确性高，高并发的时候操作量比较大，性能变低。

③ MIXED 推荐使用

一般的语句使用statement，函数使用ROW方式存储。

根据实际情况智能地选择使用Statement或Row格式记录binlog。
默认情况下，大多数SQL语句使用Statement格式记录，而对于可能导致主从服务器数据不一致的SQL语句（例如包含不确定函数的语句），则使用Row格式记录。
优点：结合了Statement格式和Row格式的优点，既能减小binlog的大小又能确保数据复制的一致性。
缺点：需要根据具体情况进行格式切换，增加了binlog记录和处理的复杂性。

2.查看二进制日志文件的内容

cp /usr/local/mysql/data/mysql-bin.000001 /opt/

① mysqlbinlog --no-defaults /opt/mysql-bin.000001

②mysqlbinlog --no-defaults --base64-output=decode-rows -v /opt/mysql-bin.000001

#--base64-output=decode-rows：使用64位编码机制去解码（decode）并按行读取（rows）

#-v: 显示详细内容

#--no-defaults : 默认字符集（不加会报UTF-8的错误）

PS: 可以将解码后的文件导出为txt格式，方便查阅

mysqlbinlog --no-defaults --base64-output=decode-rows -v /opt/mysql-bin.000001 > /opt/mysql-bin.txt

二进制日志中需要关注的部分

1、at ：开始的位置点

2、end_log_pos：结束的位置

3、时间戳： 210712 11:50:30

4、SQL语句

3. 进行完全备份

(增量备份时基于完全备份的，所以我们直接完全备份数据库)

mysqldump -u root -p123456 bank boddy > /opt/bank_boddy_$(date +%F).sql

mysqldump -u root -p123456 --databases bank > /opt/bank_$(date +%F).sql

4. 进行增量备份

可每天进行增量备份操作，生成新的二进制日志文件(例如:mysql-bin.000002)

mysqladmin -u root -p123456 flush-logs

#刷新后生成的二进制文件中没有其它的数据

5.插入新数据，以模拟数据的增加或变更

PS:在第一次完全备份之后刷新二进制文件，在第二个二进制文件中记载着"增量备份的数据"

create database ming;
use ming
create table awe (id int not null,name char(10));
insert into awe values (1,'qdq');
insert into awe values (2,'owo');

mysql> select * from awe;
+----+------+
| id | name |
+----+------+
|  1 | qdq  |
|  2 | owo  |
+----+------+
2 rows in set (0.00 sec)

6.再次生成新的二进制日志文件

(例如:mysql-bin.000003)

mysqladmin -u root -p123456 flush-logs

#之前的步骤5的数据库操作会保存到mysql-bin.000002文件中，之后我们测试删除 ming库的操作会保存在mysql-bin.000003文件中（以免当我们基于mysql-bin.000002日志进行恢复时，依然会删除库）

5.2 MySQL增量恢复

1.一般恢复

(1)、模拟丢失更改的数据的恢复步骤（直接使用恢复即可）
① 备份 ming库 中 awe表
mysqldump -uroot -p123456 ming awe > /opt/ming_awe.sql
② 删除 ming库 中 awe 表
drop table ming.awe;
③ 恢复 awe 表
mysql -uroot -p123456 ming < /opt/ming_awe.sql


#查看日志文件
[root@mysql data]# mysqlbinlog --no-defaults --base64-output=decode-rows -v mysql-bin.000002



(2)、模拟丢失所有数据的恢复步骤
① 模拟丢失所有数据
[root@mysql data]# mysql -uroot -p123456

mysql> show databases;
+--------------------+
| Database           |
+--------------------+
| information_schema |
| bank               |
| ming               |
| mysql              |
| performance_schema |
| sys                |
| user               |
+--------------------+
7 rows in set (0.00 sec)

mysql> drop database ming;
mysql> quit


② 基于mysql-bin.000002恢复
mysqlbinlog --no-defaults /usr/local/mysql/data/mysql-bin.000002 | mysql -u root -p123456

或备份一个mysql-bin.000002恢复
cp /usr/local/mysql/data/mysql-bin.000002 /opt/
mysqlbinlog --no-defaults /opt/mysql-bin.000002 | mysql -u root -p123456

2.断点恢复

依靠二进制日志断点恢复数据：

查看日志内容 mysqlbinlog --no-defaults --base64-output=decode-rows -v /opt/mysql-bin.000002

如上：

at 644

#240326 9:26:44

插入了一条数据

(1)、基于位置恢复

① 插入三条数据

mysql> select * from awe;

+----+------+

| id | name |

+----+------+

| 1 | qdq |

| 2 | owo |

+----+------+

2 rows in set (0.00 sec)

insert into awe values (3,'asd');

insert into awe values (4,'qwe');

insert into awe values (5,'asx');

需求：id =4的数据操作失误，需要跳过

② 确认位置点，刷新二进制日志并删除test1表

mysqlbinlog --no-defaults --base64-output=decode-rows -v /usr/local/mysql/data/mysql-bin.000003

我们需要回复at 3914 （停止）之前的数据和 at 4020 （开始）之后的数据

刷新二进制日志 mysqladmin -u root -p123456 flush-logs

[root@mysql1 data]#cp mysql-bin.000003 /opt/

[root@mysql1 data]#pwd

/usr/local/mysql/data

删除 awe表

mysql> use ming;

mysql> drop table awe;

③ 基于位置点恢复

#仅恢复到操作 ID 为"3914"之前的数据，即不恢复" 4，'qwe' " 及其之后的数据

mysqlbinlog --no-defaults --stop-position='3914' /opt/mysql-bin.000003 | mysql -u root -p123456

#仅恢复" 5，'asx' "的数据，跳过" 4，'qwe' "的数据恢复

mysqlbinlog --no-defaults --start-position='4195' /opt/mysql-bin.000003 | mysql -u root -p123456

如果说在创建 awe 表前我们进行了其它的操作我不想恢复，我只想恢复创建 awe表到插入第三行数据的内容该如何恢复？

开始的位置 at 535

结束的位置是 at 3914

mysqlbinlog --no-defaults --start-position='535' --stop-position='3914' /opt/mysql-bin.000003 | mysql -uroot -p123456

#恢复从位置为535开始到位置为3914为止

(2)、基于时间点恢复

mysqlbinlog [--no-defaults] --start-datetime='年-月-日小时:分钟:秒' --stop-datetime='年-月-日小时:分钟:秒' 二进制日志 | mysql -u 用户名 -p 密码

#仅恢复到操作 '2024-03-26 13:54:30' 之前的数据，即不恢复" 4，'qwe' " 及其之后的数据

mysqlbinlog --no-defaults --stop-datetime='2024-03-26 13:54:30' /opt/mysql-bin.000003 | mysql -uroot -p

#仅恢复" 5，'asx' " (13:54:42)的数据，跳过" 4，'qwe' "的数据恢复

mysqlbinlog --no-defaults --start-datetime='2024-03-26 16:41:24' /opt/mysql-bin.000002 | mysql -uroot -p

如果恢复某条SQL语之前的所有数据，就stop在这个语句的位置节点或者时间点

如果恢复某条SQL语句以及之后的所有数据，就从这个语句的位置节点或者时间点start