MySQL三大日志—— binlog、redoLog、undoLog 详解

前言:

日志是mysql数据库的重要组成部分,记录着数据库运行期间各种状态信息,能帮助我们进行很多容错及分析工作,其中有三大日志与我们这些开发者息息相关,本文将介绍binlog、redoLog、undoLog三种日志:


1. redoLog 重做日志

在数据库系统中,重做日志(redo log) 用于**确保在发生故障时数据的完整性和一致性。**重做日志缓冲区(redo log buffer)是内存中的一段区域,用于临时存储待写入磁盘的重做日志记录。

当数据库系统执行数据更改(如INSERT、UPDATE、DELETE)时,这些操作会先记录在重做日志缓冲区中。然后,数据库会在适当的时间将这些重做日志缓冲区的内容写入重做日志文件中,以便在系统故障时可以重放这些日志来恢复数据。

在实际的数据库实现中,例如Oracle或MySQL,写入重做日志到磁盘的操作通常是异步进行的,以提高性能。当事务提交时,重做日志缓冲区的内容可能并不立即刷新到重做日志文件,而是由后台进程定期进行。

以下是一个简化的伪代码示例,描述了重做日志缓冲区内容的写入过程:

sql 复制代码
-- 假设的数据库操作
BEGIN TRANSACTION;
-- 更新操作
UPDATE table_name SET column_name = 'new_value' WHERE condition;
-- 将重做日志缓冲区内容写入重做日志文件
WRITE_REDO_LOG_TO_FILE();
COMMIT TRANSACTION;

1.1 为什么需要redo log

我们都知道,事务的四大特性里面有一个是持久性,具体来说就是只要事务提交成功,那么对数据库做的修改就被永久保存下来了,不可能因为任何原因再回到原来的状态。

事务在运行过程中,都是在内存的Buffer Pool 修改页面,事务提交后 ,这些被修改后的脏页并不会立刻刷盘 (立刻刷盘开销太大,一方面是一个页面可能就修改了一点点,将整个页面刷盘不值当,另一方面是一个事务会涉及不同的页面,如果将这些页面都刷盘会产生很多的随机IO)。
但如果不采取其他措施 ,那么在事务提交后MySQL发生故障导致内存中数据丢失,那么这个已提交事务作出的更改也会丢失。

那么mysql是如何保证内存和磁盘的一致性的呢?最简单的做法是在每次事务提交的时候,将该事务涉及修改的数据页全部刷新到磁盘中。但是这么做会有严重的性能问题,主要体现在两个方面:

  1. 因为Innodb是以页为单位 进行磁盘交互的,而一个事务很可能只修改一个数据页里面的几个字节,这个时候将完整的数据页刷到磁盘的话,太浪费资源了!
  2. 一个事务可能涉及修改多个数据页 ,并且这些数据页在物理上并不连续使用随机IO写入性能太差!

所以这里就需要引入redo日志对任意页面进行修改的操作都会生成redo日志 ,在事务提交时,只要保证生成的redo日志成功落盘即可 ,这样,即使MySQL发生故障导致内存中的数据丢失 ,也可以根据已落盘的redo日志恢复数据。

1.2 redo log的基本概念

redo log是InnoDB存储引擎层的日志又称重做日志文件 ,用于记录事务操作的变化 ,记录的是数据修改之后的值不管事务是否提交都会记录下来 。一个事务生成的redo日志是按顺序写入磁盘的,是顺序IO ,在实例介质失败(media failure)时 ,redo log文件就能派上用场,如数据库掉电,InnoDB存储引擎会使用 redo log恢复到掉电前的时刻,以此来保证数据的完整性。

redo log包括两部分:

  • 一个是内存中的日志缓冲(redo log buffer)
  • 另一个是磁盘上的日志文件(redo log file)

mysql每执行一条DML语句,先将记录写入redo log buffer ,后续某个时间点再一次性将多个操作记录写到redo log file 。这种先写日志,再写磁盘的技术 就是MySQL里经常说到的WAL(Write-Ahead Logging) 技术。

1.3 redo log记录形式

redo log日志的大小是固定的,即记录满了以后就从头循环写。

redolog记录方式:

  • 简单的redo日志 ------ 记录哪个表空间中的哪个页面哪个位置开始多少个节点要修改成什么
  • 复杂的redo日志 ------ 记录了对哪个表空间的哪个页面进行修改存储了对该页面进行修改操作的一些必备要素重启时 ,MySQL会根据redo日志的类型,将redo日志中的必备要素作为参数,调用日志类型对应的函数,恢复数据。

在计算机操作系统中,用户空间(user space)下的缓冲区数据 一般情况下是无法直接写入磁盘的 ,中间必须经过操作系统内核空间 (kernel space)缓冲区(OS Buffer)

因此,redo log buffer 写入redo log file 实际上是先写入OS Buffer,然后再通过系统 调用fsync()将其刷到redo log file中。


复制代码
 

2.binlog

2.1 binlog基本概念

binlog是属于MySQL Server层面的,又称为归档日志,属于逻辑日志,是以二进制的形式记录的,用于记录数据库执行的写入性操作(不包括查询)信息,依靠binlog是没有crash-safe能力的

  • 啥是逻辑日志啥是物理日志:
  • 逻辑日志:可以简单理解为记录的就是sql语句
  • 物理日志:因为mysql数据最终是保存在数据页中的,物理日志记录的就是数据页变更

另外,binlog是通过追加的方式 进行写入的,可以通过max_binlog_size参数设置每个binlog文件的大小 ,当文件大小达到给定值之后**,会生成新的文件来保存日志**。

2.2 binlog使用场景

在实际应用中,binlog的主要使用场景有两个,分别是主从复制数据恢复

  1. 主从复制 :在Master端开启binlog ,然后将binlog发送到各个Slave端Slave端重放binlog从而达到主从数据一致。
  2. 数据恢复:通过使用mysqlbinlog工具来恢复数据

总结:确保事务的持久性 。防止在发生故障的时间点,尚有脏页未写入磁盘,在重启mysql服务的时候,根据redo log进行重做从而达到事务的持久性这一特性。

2.3 binlog日志格式

binlog日志有三种格式,分别为STATMENTROW 和 MIXED

在 MySQL 5.7.7之前,默认的格式是STATEMEN T,MySQL 5.7.7之后,默认值是ROW 。日志格式通过binlog-format指定。

  1. STATMENT 基于SQL语句的复制 (statement-based replication, SBR),每一条会修改数据的sql语句会记录到binlog中优点: 不需要记录每一行的变化,减少了binlog日志量,节约了IO, 从而提高了性能; **缺点:**在某些情况下会导致主从数据不一致,比如执行sysdate()、slepp()等。
  2. ROW 基于行的复制(row-based replication, RBR),不记录每条sql语句的上下文信息,仅需记录哪条数据被修改了优点: 不会出现某些特定情况下的存储过程、或function、或trigger的调用和触发无法被正确复制的问题;**缺点:**会产生大量的日志,尤其是alter table的时候会让日志暴涨
  3. MIXED 基于STATMENT和ROW两种模式的**混合复制(**mixed-based replication, MBR),一般的复制使用STATEMENT模式保存binlog,对于STATEMENT模式无法复制的操作使用ROW模式保存binlog

3. redolog和binlog区别

redo log 是属于innoDB层面binlog 属于MySQL Server层面的 ,这样在数据库用别的存储引擎时可以达到一致性的要求。

  • redo log是物理日志 ,记录该数据页更新的内容
  • binlog 是逻辑日志 ,记录的是这个更新语句的原始逻辑;

redo log是循环写日志空间大小固定 ;binlog是追加写,是指一份写到一定大小的时候会更换下一个文件,不会覆盖。

binlog可以作为恢复数据使用,主从复制搭建,redo log作为异常宕机或者介质故障后的数据恢复使用。

redo log是InnoDB存储引擎层的日志,binlog是MySQL Server层记录的日志, 两者都是记录了某些操作的日志(不是所有)自然有些重复(但两者记录的格式不同)。

4. undo log

数据库事务四大特性中有一个是原子性 ,具体来说就是 原子性是指对数据库的一系列操作,要么全部成功,要么全部失败,不可能出现部分成功的情况。

实际上,原子性底层就是通过 undo log实现的。

undo log主要记录了数据的逻辑变化,比如一条INSERT语句,对应一条DELETE的undo log,对于每个UPDATE语句,对应一条相反的UPDATE的undo log,这样在发生错误时,就能回滚到事务之前的数据状态。

undo log保存了事务发生之前的数据的一个版本 ,可以用于回滚同时可以提供多版本并发控制下的读(MVCC),也即非锁定读.

相关推荐
Abelard_27 分钟前
Redis--内存管理(过期删除和内存淘汰策略)
数据库·redis
m0_748250031 小时前
Spring Boot 中使用 @Transactional 注解配置事务管理
数据库·spring boot·sql
wahahaman2 小时前
OceanBase到MySQL实时同步方案
数据库·mysql·oceanbase
q567315232 小时前
web框架在什么程度上受限 ?
开发语言·前端·数据库·pygame
Mr数据杨3 小时前
连接MongoDB并读取指定表单数据到DataFrame
数据库·mongodb
Fab1an3 小时前
打靶记录23——Raven2
网络·数据库·笔记·安全·web安全
程序员shen1616113 小时前
短视频矩阵源码开发/saas矩阵部署/api矩阵源码接口搭建
数据结构·数据库·python·线性代数·算法·矩阵
山林竹笋3 小时前
数据库入门级SQL优化
数据库·sql·mysql
千寻简4 小时前
MySQL秘籍之索引与查询优化实战指南
数据库
web150854159354 小时前
Python爬虫(selenium)从网站获取信息并存入数据库(mysql)
数据库·爬虫·python