MYSQL日志管理、备份与恢复

一、MYSQL日志管理

1、日志分类

编辑1.错误日志

2.通用查询日志

[3.用alter database bachup controlfile命令来备份控制文件热备份的优点](#3.用alter database bachup controlfile命令来备份控制文件热备份的优点)

2、专用备份工具mysqldump或着mysqlhotcopy

1.完全备份一个或多个完整的库（包含其中所有的表）

[3.加 -databases和不加的区别](#3.加 -databases和不加的区别)

1.模拟丢失更改的数据的恢复操作步骤（直接使用恢复即可）

4、节点恢复

总结：

一、MYSQL日志管理

1、日志分类

MySQL 的日志默认保存位置为：/usr/local/mysql/data

MySQL 的日志配置文件为/etc/my.cnf ，里面有个 [mysqld] 项

1.错误日志

用来记录当MySQL启动、停止或运行时发生的错误信息，默认已开启

vim  /etc/my.cnf

log-error=/usr/local/mysql/data/mysql_error.log     #指定日志的保存位置和文件名

2.通用查询日志

用来记录MySQL的所有连接和语句，默认是关闭的

vim /etc/my.cnf

general_log=ON
general_log_file=/usr/local/mysql/data/mysql_general.log

3.二进制日志(binlog)

用来记录所有更新了数据或者已经潜在更新了数据的语句，记录了数据的更改，可用于数据恢复，默认已开启

vim /etc/my.cnf

log-bin=mysql-bin      
或
log_bin=mysql-bin

4.中继日志

一般情况下它在Mysql主从同步（复制）、读写分离集群的从节点开启。主节点一般不需要这个日志。

5.慢查询日志

用来记录所有执行时间超过long_query_time秒的语句，可以找到哪些查询语句执行时间长，以便提醒优化，默认是关闭的

vim /etc/my.cnf

s1ow_query_log=ON
slow_query_log_file=/usr/local/mysql/data/mysql_slow_query.log
long_query_time=5        #设置超过5秒执行的语句被记录，缺省时为10秒

6.配置日志

1. #修改my.cnf配置文件
vim /etc/my.cnf
#错误日志
log-error=/usr/local/mysql/data/mysql_error.log	
#通用查询日志
general_log=ON
general_log_file=/usr/local/mysql/data/mysql_general.log
#二进制日志
log-bin=mysql-bin	
#慢查询日志
slow_query_log=ON
slow_query_log_file=/usr/local/mysql/data/mysql_slow_query.log
long_query_time=5
 
2. #重新mysql服务
systemctl restart mysqld.service

2、日志查询

#登入mysql
mysql -u root -p[密码]
 
#查看通用查询日志是否开启
show variables like 'general%';	
#查看二进制日志是否开启
show variables like 'log_bin%';									
#查看慢查询日功能是否开启
show variables like '%slow%';								
#查看慢查询时间设置
show variables like 'long_query_time';						
#在数据库中设置开启慢查询的方法
set global slow_query_log=ON;

二、备份的重要性

在生产环境中，数据的安全性至关重要
任何数据的丢失都可能产生严重的后果
造成数据丢失的原因
- 程序错误
- 人为操作错误
- 运算错误
- 磁盘故障
- 灾难(如火灾、地震)和盗窃

问：怎么避免突发磁盘故障

答：做磁盘reid reid5 或reid10

三、数据库备份的分类

1、物理备份

数据库备份可以分为物理备份和逻辑备份。物理备份是对数据库操作系统的物理文件（如数据文件、日志文件等）的备份。这种类型的备份适用于在出现问题的时候需要快速恢复的大型重要数据库。
物理备份 又可以成为冷备份 （脱机备份）、热备份 （连接备份）和温备份。

**冷备份（脱机备份）：**是在关闭数据库的时候进行的(tar)

**热备份（联机备份）：**数据库处于运行状态，依赖于数据库的日志文件（mysqlhotcopy mysqlbackup）

**温备份：**数据库锁定表格（不可写入但可读）的状态下进行备份操作（mysqldump）

1.冷备份

冷备份发生在数据库已经正常关闭的情况下，当正常关闭时会提供给我们一个完整的数据库。冷备份时将要害性文件拷贝到另外的位置的一种说法。对于备份Oracle信息而言，冷备份是最快和最安全的方法。

优点：

是非常快速的备份方法（只需拷文件）
轻易归档（简单拷贝即可）
轻易恢复到某个时间点上（只需将文件再拷贝回去）
能与归档方法相结合，做数据库"最佳状态"的恢复。
低度维护，高度安全。

缺点：

单独使用时，只能提供到"某一时间点上"的恢复。
再实施备份的全过程中，数据库必须要作备份而不能作其他工作。也就是说，在冷备份过程中，数据库必须是关闭状态。
若磁盘空间有限，只能拷贝到磁带等其他外部存储设备上，速度会很慢。
不能按表或按用户恢复。

2.热备份

热备份是在数据库运行的情况下，采用archivelog mode方式备份数据库的方法。所以，假如你有昨天夜里的一个冷备份而且又有今天的热备份文件，在发生问题时，就可以利用这些资料恢复更多的信息。热备份要求数据库在Archivelog方式下操作，并需要大量的档案空间。一旦数据库运行在archivelog状态下，就可以做备份了。热备份的命令文件由三部分组成：

1.数据文件一个表空间的备份

设置表空间为备份状态
备份表空间的数据文件
恢复表空间为正常状态

2.备份归档log文件

临时停止归档进程
log下那些在archive rede log目标目录中的文件
重新启动archive进程
备份归档的redo log文件

3.用alter database bachup controlfile命令来备份控制文件热备份的优点

可在表空间或数据库文件级备份，备份的时间短。
备份时数据库仍可使用。
可达到秒级恢复（恢复到某一时间点上）。
可对几乎所有数据库实体做恢复
恢复是快速的，在大多数情况下爱数据库仍工作时恢复。

4.热备份的缺点

不能出错，否则后果严重
若热备份不成功，所得结果不可用于时间点的恢复
因难于维护，所以要非常仔细小心，不答应"以失败告终"。

2、逻辑备份

逻辑备份是对数据库逻辑组件的备份.表示为逻辑数据库结构
这种类型的备份适用于可以编辑数据值或表结构

四、备份策略

从数据库的备份策略角度来看，备份又可分为完全备份、差异备份和增量备份。

1、完全备份

每次对数据进行完整备份，即对整个数据库、数据库结构和文件结构的备份，保存的是备份完成时刻的数据库，是差异备份与增量备份的基础完全备份的备份与恢复操作都非常简单方便，但是数据存在大量的重复并且会占用大量的磁盘空间，备份的时间也很长。

每次都进行完全备份，会导致备份文件占用空间巨大，并且有大量的重复数据，恢复时，直接使用完全备份的文件即可。

完全备份是对整个数据库、数据库结构和文件结构的备份。
保存的是备份完成时刻的数据库。
是差异备份与增量备份的基础。
相当于基石。

完全备份优点：

备份与恢复操作简单方便

完全备份缺点：

数据存在大量的重复
占用大量的备份空间
备份与恢复时间长

2、差异备份

备份那些自从上次完全备份之后被修改过的所有文件，备份的时间节点是从上次完整备份起，备份数据量会越来越大。恢复数据时只需要恢复上次的完全备份与最佳的一次差异备份。

每次差异备份，都会备份上一次完全备份之后的数据，可能会出现重复数据。恢复时，先恢复完全备份的数据，再恢复差异备份的数据。

3、增量备份

只有那些在上次完全备份或者增量备份后被修改的文件才会被备份以上次完整备份或上次增量备份的时间为时间点，仅备份期间内的数据变化，因而备份的数据量小，占用空间小，备份速度快。但恢复时，需要从上一次的完整备份开始到最后一次增量备份之间的所有增量依次恢复，如中间某次的备份数据损坏，将导致数据的丢失

每次增量备份都是在备份在上一次完全备份或者增量备份之后的数据，不会出现重复数据的情况，也不会占用额外的磁盘空间。
恢复数据，需要按照次序恢复完全备份和增量备份的数据

4、如何选择逻辑备份策略

合理值区间

一周一次的全备，全备的时间需要在不提供业务的时间区间进行，22点到5点之间进行全备
增量：3天/2天/1天一次增量备份
差异：选择特定的场景进行备份
一个处理（NFS）提供额外空间给mysql服务器用

五、常见的备份方法

1、物理冷备

备份时数据库处于关闭状态，直接打包数据库文件
备份速度快，恢复时也是最简单的
关闭MySQL数据库
使用tar命令直接打包数据库文件夹
直接替换现有的MySQL目录即可

2、专用备份工具mysqldump或着mysqlhotcopy

1.mysqldump工具

mysqldump常用的逻辑备份工具
MySQL自带的备份工具，可实现对MySQL的备份
可以将指定的库、表导出为SQL脚本
使用命令mysql导入备份的数据

2.mysqlhotcopy工具

mysqlhotcopy仅拥有备份myisam和archive表

3、启动二进制日志进行增量备份

进行增量备份，需要刷新二进制日志
进行增量备份，需要刷新二进制日志
MySQL支持增量备份，进行增量备份时必须启用二进制日志，二进制日志文件为用户提供复制对执行备份点后进行的数据库更改所需的信息进行恢复，如果进行增量备份（包含自上次完全备份或增量备份以来发生的数据修改），需要刷新二进制日志。

4、第三方工具备份

进行增量备份，需要刷新二进制日志

六、MySQL完全备份与恢复

InnoDB存储引擎的数据库在磁盘上存储成三个文件：db.opt(表属性文件)、表名.frm(表结构文件)、表名.ibd(表数据文件)。

1、物理冷备份与恢复

物理冷备份---》关闭mysqld服务----》tar命令打包data目录（恢复就是解压他的tar包即可

关闭数据库，下载xz

systemctl stop mysqld
yum -y install xz

压缩备份

tar Jcvf /opt/mysql_all_$(data +%F).tar.xz  /usr/local/mysql/data/

解压恢复

mv /usr/local/mysql/data/  /opt/

tar Jxf /opt/mysql_all_.tar.xz -C /usr/local/mysql/data

mv usr/local/mysql/data/* .

systemctl  restsart  mysqld.service

2、mysqldump备份与恢复

create table class(id int(4),name char(10),age int(2),sex char(4));
insert into class values(1,'xm',21,'男');
insert into class values(2,'xh',23,'女');
insert into class values(2,'lh',22,'男');
select * from class;

1.完全备份一个或多个完整的库（包含其中所有的表）

mysqldump -u root -p[密码] --databases 库名1 [库名2] ... > /备份路径/备份文件名.sql #导出的就是数据库脚本文件

例如：

[root@localhost ~]#mysqldump -uroot -p123456 --databases school > /opt/db1.sql

[root@localhost ~]#mysqldump -uroot -p123123 --databases sys school > /opt/sys-db1.sql  #备份两个库

2.完全备份MySQL服务器中的所有的库

mysqldump -u root -p[密码] --all-databases > /备份路径/备份文件名.sql

例如：

mysqldump -u root -p123456 --all-databases > /opt/all.sql

3.完全备份指定库中的部份表

mysqldump -u root -p[密码] 库名 [表名1] [表名2] ... > /备份路径/备份文件名.sql
#不使用"-d"选项，说明表数据也进行备份
#使用"-d"选项，说明只保存数据库的表结构

例：

例：
[root@localhost ~]#mysqldump -uroot -p123456 school class > /opt/school_class.sql

cat /opt/school_class.sql
##不使用"-d"选项，说明表数据也进行备份

例：
[root@localhost ~]#mysqldump -uroot -p123456  -d school kysw > /opt/school_kysw.sql

cat /opt/school_kysw.sql
##使用"-d"选项，说明只保存数据库的表结构

4.查看备份文件

grep -v "^--" /opt/school_class.sql | grep -v "^/" | grep -v "^$"

3、MySQL完全恢复

1.恢复数据库

使用mysqldump导出的文件，可使用导入的方法

source命令
mysql命令

使用source恢复数据库的步骤

登录到MySQL数据库
执行source备份sql脚本的路径

mysql -uroot -p123456 -e 'drop database school;'
mysql -uroot -p123456 -e 'show databases;'

mysql -uroot -p123456 < /opt/school.sql
mysql -uroot -p123456 -e 'show databases;'

2.恢复数据表

mysqldump -uroot -p123456 school class > /opt/class.sql
grep -v "^--" /opt/class.sql | grep -v "^/" | grep -v "^$"

mysql -uroot -p123456 -e 'drop table school.class;'
mysql -uroot -p123456

source /opt/class.sql
select * from class;
show tables;

方式一：

方法二：

3.加 -databases和不加的区别

mysqldump 严格来说属于温备份，会需要对表进行写入的锁定

在全量备份与恢复实验中，假设现有school库，school库中有一个lcdb表，需要注意的一点为:

当备份时加--databases ,表示针对于school库

备份命令

mysqldump -uroot -p123456 --databases school > /opt/school_01.sql

备份库后恢复命令过程为:

mysql -uroot -p123456
drop database school;
exit

mysql -uroot -p123456 < /opt/school_01.sql

当备份时不加--databases，表示针对school库下的所有表

mysqldump -uroot -p123456 school > /opt/school_all.sql
mysql -uroot -p123456 -e 'drop database school;'
mysql -uroot -p123456 < /opt/school_all.sql

mysql -uroot -p123456 -e 'create database school;'
mysql -uroot -p123456 school < /opt/school_all.sql
mysql -uroot -p123456 -e 'use school;show tables;'

七、mysql增量备份与恢复

MySQL数据库增量恢复有，一般恢复、基于位置恢复、基于时间点恢复。

1、开启二进制日志功能

vim /etc/my.conf
[mysqld]
log-bin=mysql-bin
binlog_format = MIXED
server-id = 1
#二进制日志有三种不同的记录格式：STATEMENT（基于SQL语句）、ROW（基于行）、MIXED（混合模式），默认为STATEMENT
#server-id 为服务的序号，在MySQL主备、高可用中需要指定服务的序号
#改为配置文件需要重启服务
systemctl restart mysqld

STATEMENT(基于sQL语句):

每一条涉及到被修改的sql都会记录在binlog中

缺点： 日志量过大，如sleep()函数，last_insert_id()>，以及user-definedfuctions ( udf) 、垂从复制等架构记录日志时会出现问题
**总结：**增删改查通过sql语句来实现记录，如果用高并发可能会出错，可能时间差异或者延迟，可能不是我们想想的恢复可能你先删除或者在修改，可能会倒过来。准确率低

ROW（基于行）

只记录变动的记录，不记录sql的上下文环境

缺点： 如果遇到update... ...set... . .where true那么binlog的数据量会越来越大
**总结:：**update、 delete以多行数据起作用，来用行记录下来，只记录变动的记录，不记录sql的上下文环境，比如sql语句记录一行，但是Row就可能记录10行，但是准确性高，高并发的时候由于操作量能变低比较大所以记录都记下来。

2、二进制日志读取

二进制文件无法直接编辑查看，需要对其进行转换

mysqlbinlog --no-defaults 二进制日志文件
mysqlbinlog --no-defaults --base64-output=decode-rows -v 二进制日志文件
#--base64-output=decode-rows 使用64位编码机制去解码；decode按行读取rows
#-v 显示详细内容
#--no-defaults 默认字符集（不加会报UTF-8错误）
#将解码后的文件导出为txt文件，重定向输出
mysqlbinlog --no-defaults --base64-output=decode-rows -v 二进制日志文件 > 文件.txt
#刷新日志文件
mysqladmin -uroot -p flush-logs

at：开始的位置点

end_log_pos：结束的位置

时间戳： 20240325 11:50:30

SQL语句

3、一般恢复

1.模拟丢失更改的数据的恢复操作步骤（直接使用恢复即可）

模拟丢失更改的数据的恢复操作步骤（直接使用恢复即可）
[root@localhost ~]#mysqldump -uroot -p123123 class student > /opt/class_student.sql   #备份数据库中的表

[root@localhost opt]#mysql -uroot -p123123 -e 'drop table class.student;' #删除表

[root@localhost opt]#mysql -uroot -p123123 -e 'use class;show tables;'  #查询库中的表

[root@localhost opt]#mysql -uroot -p123123 class  < class_student.sql  #恢复数据库中的表

[root@localhost opt]#mysql -uroot -p123123 -e 'use class;show tables;'  #查询

4、节点恢复

数据库在某一时间点可能既有错误的操作也有正确的操作，可以基于精准的位置跳过错误的操作
发生错误节点指点的上一个节点，上一次正确操作的位置点停止
模拟节点恢复，刷新日志，生成新的日志文件

总结：

物理备份---》关闭mysqld服务----》tar命令打包data目录（恢复就是解压他的tar包即可）
逻辑备份---》mysqldump -u(用户) -p(密码) --databases 库1 库2 > xxx.sql

mysqldump -u -p --all-databases >xxx.sql

mysqldump -u -p 库1 表1 表2 > xxx.sql
完全恢复

mysql -u -p < xxx.sql (恢复数据库)

mysql -u -p 库名 < xxx.sql (恢复表)
增量备份

开启二进制日志，设置二进制格式MIXED（混合）

进行一次完全备份，可每周备份一次，通过crontab -e

使用mysqladmin -uroot -p flush-logs刷新分割出二进制日志，由于刷新之前的数据操作都记录在老的二进制日志里，所以需要把老的二进制日志复制到一个安全的目录中保管

可以通过mysqlbinlog --no-defaults --base64-output=decode-rows -v 二进制日志文件名查看日志内容

可以通过mysqlbinlog --no-dedfaults 二进制日志文件名

mysql -uroot -p 恢复丢失的数据

位置恢复

时间回复
show variables like '%storage_engine%'; #查看默认存储引擎