区,段,碎片区与表空间结构
结构图
另外在数据库中,还存在着区(Extent),段(Segment)和表空间(Tablespace)的概念。行,页,区,段,表空间的关系如下图所示:
区、段 与碎片区
为什么要有区?
B+树的每一层中的页都会形成一个双向链表,如果是以页为单位 来分配存储空间的话,双向链表相邻的两个页之间的 物理位置可能离得非常远。我们介绍B+树索引的适用场景的时候特别提到范围查询只需要定位到最左边的记录和最右边的记录,然后沿着双向链表一直扫描就可以了,而如果链表中相邻的两个页物理位置离得非常远就是所谓的 随机I/O。再一次强调,磁盘的速度和内存的速度差了好几个数量级,随机I/O是非常慢 的,所以我们应该尽量让链表中相邻的页的物理位置也相邻,这样进行范围查询的时候才可以使用所谓的 顺序I/O。
引入区的概念,一个区就是在物理位置上连续的64个页。因为innoDB 中的页大小默认是 16KB,所以一个区的大小是 64*16KB= 1MB 。在表中 数据量大的时候,为某个索引分配空间的时候就不再按照页为单位分配了,而是按照 区为单位分配,甚至在表中的数据特别多的时候,可以一次性分配多个连续的区。虽然可能造成 一点点空间的浪费(数据不足以填充满整个区),但是从性能角度看,可以消除很多的随机IO,功大于过!
为什么要有段?
对于范围查询,其实是对B+树叶子节点中的记录进行顺序扫描,而如果不区分叶子节点和非叶子节点,统统把节点代表的页面放到申请到的区中的话,进行范围扫描的效果就大打折扣了。所以innoDB 对 B+ 树的叶节点和叶子节点进行了区别对待,也就是说叶子节点有自己独有的区,非叶子节点也有自己独有的区。存放叶子节点的区的集合就算是一个段( segment ),存放非叶子节点的区的集合也算是一个段。也就是说一个索引会生成2个段,一个 叶子节点段,一个非叶子节点段。
除了索引的叶子节点段和非叶子节点段之外,InnoDB中还有为存储一些特 殊的数据而定义的段,比如回滚段。所以,常见的段有数据段、索引段、 回滚段。数据段即为B+树的叶子节点,索引段即为B+树的非叶子节点。
在innoDB存储引擎中,对段的管理都是由引擎自身所完成,DBA不能也没有必要对其进行控制。这从一定程度上简化了DBA对于段的管理。
段其实不对应表空间中某一个连续的物理区域,而是一个逻辑上的概念,由若干个零散的页面以及一些完整的区组成。
为什么要有碎片区?
默认情况下,一个使用InnoDB存储引擎的表只有一个聚簇索引,一个索引会生成2个段,而段是以区为单位申请存储空间的,一个区默认占用1M (64*16Kb = 1024Kb) 存储空间,也我们有叶子节点区和非叶子节点区,所以默认情况下一个只存了几条记录的小表也需要2M的存储空间么?以后每次添加一个索引都要多申请2M的存储空间么? 这对于存储记录比较少的表简直是天大的浪费。这个问题的症结在于到现在为止我们介绍的区都是非常 纯粹 的,也就是一个区被整个分配给某一个段,或者说区中的所有页面都是为了存储同一个段的数据而存在的,即使段的数据填不满区中所有的页面,那余下的页面也不能挪作他用。
为了考虑以完整的区为单位分配给某个段对于 数据量较小的表太浪费存储空间的这种情况,lnnoDB提出了一个碎片(fragment)区的概念。在一个碎片区中,并不是所有的页都是为了存储同一个段的数据而存在的,而是碎片区中的页可以用于不同的目的,比如有些页用于段A,有些页用于段B,有些页甚至哪个段都不属于。 碎片区直属于表空间,并不属于任何一个段.
所以此后为某个段分配存储空间的策略是这样的:
- 在刚开始向表中插入数据的时候,段是从某个碎片区以单个页面为单位来分配存储空间的.
- 当某个段已经占用了32个碎片区 页面之后,就会申请以完整的区为单位来分配存储空间。
所以现在段不能仅定义为是某些区的集合,更精确的应该是 某些零散的页面 以及 一些完整的区 的集合。
区的分类
区大体上可以分为4种类型:
- 空闲的区(FREE):现在还没有用到这个区中的任何页面。
- 有剩余空间的碎片区(FREE_FRAG): 表示碎片区中还有可用的页面。
- 没有剩余空间的碎片区(FULL_FRAG): 表示碎片区中的所有页面都被使用,没有空闲页面。
- 附属于某个段的区(FSEG): 每一个索引都可以分为叶子节点段和非叶子节点段。
处于FREE、FREE_FRAG 以及 FULL_FRAG 这三种状态的区都是独立的,直属于表空间。而处于FSEG 状态的区是附属于某个段的。
如果把表空间比作是一个集团军,段就相当于师,区就相当于团。一般的团都是隶属于某个师的,就像是处于FSEG的区全都隶属于某个段,而处于FREE、FREE_FRAG 以及 FULL_FRAG 这三种状态的区却直接隶属于表空间,就像独立团直接听命于军部一样。
表空间
表空间可以看做是InnoDB存储引擎逻辑结构的最高层,所有的数据都存放在表空间中。
表空间是一个逻辑容器,表空间存储的对象是段,在一个表空间中可以有一个或多个段,但是一个段只能属于一个表空间。表空间数据库由一个或多个表空间组成,表空间从管理上可以划分为 系统表空间 (Systemtablespace) 、独立表空间 (File-per-table tablespace) 、撤销表空间 (Undo Tablespace) 和临时表空间(Temporary Tablespace) 等。
独立表空间
独立表空间,即每张表有一个独立的表空间,也就是数据和索引信息都会保存在自己的表空间中。独立的表空间(即:单表)可以在不同的数据库之间进行迁移。
空间可以回收(DROP TABLE 操作可自动回收表空间,其他情况,表空间不能自己回收)。如果对于统计分析或是日志表,删除大量数据后可以通过: alter table TableName engine=innodb; 回收不用的空间。对于使用独立表空间的表,不管怎么删除,表空间的碎片不会太严重的影响性能,而且还有机会处理。
独立表空间结构
独立表空间由段、区、页组成。前面已经讲解过了。
真实表空间对应的文件大小
我们到数据目录里看,会发现一个新建的表对应的.ibd 文件只占用了 96K,才6个页面大小(MySOL5.7中),这是因为一开始表空间占用的空间很小,因为表里边都没有数据。不过别忘了这些ibd文件是 自扩展的,随着表中数据的增多,表空间对应的文件也逐渐增大。
mysql 8.0之后,frm文件和 ibd文件已经合并,新建一个表对应是7个页的大小.
查看 InnoDB 的表空间类型:
查看是否使用了独立表空间
mysql
mysql> show variables like 'innodb_file_per_table';
你能看到 innodb_file_per_table=ON,这就意味着每张表都会单独保存为一个 ibd 文件。
系统表空间
系统表空间的结构和独立表空间基本类似,只不过由于整个MySQL进程只有一个系统表空间,在系统表空间中会额外记录一些有关整个系统信息的页面,这部分是独立表空间中没有的。
InnoDB数据字典
每当我们向一个表中插入一条记录的时候,MySQL校验过程 如下
先要校验一下插入语句对应的表存不存在,插入的列和表中的列是否符合,如果语法没有问题的话,还需要知道该表的聚簇索引和所有二级索引对应的根页面是哪个表空间的哪个页面,然后把记录插入对应索引的B+树中。所以说,MySQL除了保存着我们插入的用户数据之外,还需要保存许多额外的信息,比方说:
-
某个表属于哪个表空间,表里边有多少列
-
表对应的每一个列的类型是什么
-
该表有多少索引,每个索引对应哪几个字段,该索引对应的根页面在哪个表空间的哪个页面
-
该表有哪些外键,外键对应哪个表的哪些列
-
某个表空间对应文件系统上文件路径是什么
上述这些数据并不是我们使用 INSERT 语句插入的用户数据,实际上是为了更好的管理我们这些用户数据而不得已引入的一些额外数据,这些数据也称为 元数据。lnnoDB存储引擎特意定义了一些列的 内部系统表 (internalsystem table)来记录这些这些元数据:
这些系统表也被称为 数据字典,它们都是以 B+ 树的形式保存在系统表空间的某些页面中,其中 SYS_TABLES SYS_COLUMNS
SYS_INDEXES SYS_FIELDS 这四个表尤其重要,称之为基本系统表 (basic system tables)。
注意:用户是不能直接访问 innoDB的这些内部系统表,除非你直接去解析系统表空间对应文件系统上的文件。不过考虑到查看这些表的内容可能有助于大家分析问题,所以在系统数据库 information_schema 中提供了一些以innodb_sys 开头的表:
在information_schema 数据库中的这些以INNODB_SYS 开头的表并不是真正的内部系统表(内部系统表就是上边以 SYS 开头的那些表),而是在存储引擎启动时读取这些以 SYS 开头的系统表,然后填充到这些以INNODB_SYS 开头的表中。以INNODB_SYS 开头的表和以SYS 开头的表中的字段并不完全一样,但供大家参考已经足矣。
附录:数据页加载的三种方式
InnoDB从磁盘中读取数据的 最小单位 是数据页。而你想得到的id =xxx的数据,就是这个数据页众多行中的一行对于MySQL存放的数据,逻辑概念上我们称之为表,在磁盘等物理层面而言是按 数据页形式进行存放的,当其加载到MySQL中我们称之为 缓存页。
如果缓冲池中没有该页数据,那么缓冲池有以下三种读取数据的方式,每种方式的读取效率都是不同的
内存读取
如果该数据存在于内存中,基本上执行时间在1ms左右,效率还是很高的。
随机读取
如果数据没有在内存中,就需要在磁盘上对该页进行查找,整体时间预在 10ms 左右,这10ms 中有6ms 是磁盘的实际繁忙时间 (包括了寻道和半圈旋转时间),有 3ms 是对可能发生的排队时间的估计值,另外还有 1ms的传输时间,将页从磁盘服务器缓冲区传输到数据库缓冲区中。这 10ms 看起来很快,但实际上对于数据库来说消耗的时间已经非常长了,因为这还只是一个页的读取时间。
顺序读取
顺序读取其实是一种批量读取的方式,因为我们请求的 数据在磁盘上往往都是相邻存储的,顺序读取可以帮我们批量读取页面,这样的话,一次性加载到缓冲池中就不需要再对其他页面单独进行磁盘IO 操作了。如果一个磁盘的吞吐量是 40MB/S,那么对于一个16KB 大小的页来说,一次可以顺序读取 2560 (40MB/16KB)个页,相当于个页的读取时间为 0.4ms。探用批量读取的方式,即使是从磁盘上进行读取,效率也比从内存中只单独读取一个页的效率要高。