MySQL索引

目录

一.没有索引的问题

二.磁盘

1.MySQL与存储

2.磁盘

(1)盘片:

(2)扇区:

(3)定位扇区

(4)结论

(5)磁盘随机访问与连续访问

3.MySQL与磁盘交互基本单位

三.建立共识

四.索引的理解

1.测试表

2.page

(1)为什么IO交互是page

(2)单个page

(3)多个page

3.页目录

(1)单页情况

(2)多页情况

4.主键索引

5.InnoDB引擎建立索引时,为什么不用其他数据结构

[6.B+树 vs B树](#6.B+树 vs B树)

[7.聚簇索引 vs 非聚簇索引](#7.聚簇索引 vs 非聚簇索引)

五.索引操作

1.创建主键索引

2.创建唯一键索引

3.创建普通索引

4.创建复合索引

5.创建全文索引

6.查询索引

7.删除索引

8.索引创建原则


前言:索引这一节很重要,我们要先了解他的原理,然后再去学习他的操作,索引和之前所学过的约束也是有关联的。

一.没有索引的问题

索引:提高数据库的性能,索引是物美价廉的东西了。不用加内存,不用改程序,不用调sql,只要执行正确的 create index ,查询速度就可能提高成百上千倍。但是天下没有免费的午餐,查询速度的提高是以插入、更新、删除的速度为代价的,这些写操作,增加了大量的IO。所以它的价值,在于提高一个海量数据的检索速度。

常见索引分为:

主键索引(primary key)

唯一索引(unique)

普通索引(index)

全文索引(fulltext)--解决中子文索引问题。

没有索引的案例:

这个表很大,当我们selec *的时候发现Killed了,这是因为表太大了,并且服务器的配置相对较差,无法承受,所以Killed了。

这里查询编号为123456的员工,发现查询了5s多的时间。

因此,没有索引,遇到这种非常大的表时,查询的时间会非常长

下面,创建索引试试:

这里可以发现,创建了索引之后,查询的速度变的非常快。

二.磁盘

1.MySQL与存储

MySQL 给用户提供存储服务,而存储的都是数据,数据在磁盘这个外设当中。磁盘是计算机中的一个机械设备,相比于计算机其他电子元件,磁盘效率是比较低的,在加上IO本身的特征,可以知道,如何提交效率,是 MySQL 的一个重要话题。

mysql和硬件之间有OS,OS中有文件系统,mysql所有的行为都会转化为文件系统的行为,文件系统再将数据通过驱动交给硬件。

2.磁盘

(1)盘片:

(2)扇区:

数据库文件,本质其实就是保存在磁盘的盘片当中。也就是上面的一个个小格子中,就是我们经常所说的扇区。当然,数据库文件很大,也很多,一定需要占据多个扇区。

我们在使用Linux,所看到的大部分目录或者文件,其实就是保存在硬盘当中的。(当然,有一些内存文件系统,如: proc , sys 之类,我们不考虑)

所以,最基本的,找到一个文件的全部,本质,就是在磁盘找到所有保存文件的扇区。而我们能够定位任何一个扇区,那么便能找到所有扇区,因为查找方式是一样的。

(3)定位扇区

柱面(磁道): 多盘磁盘,每盘都是双面,大小完全相等。那么同半径的磁道,整体上便构成了一个柱面。

每个盘面都有一个磁头,那么磁头和盘面的对应关系便是1对1的。

所以,我们只需要知道,磁头(Heads)、柱面(Cylinder)(等价于磁道)、扇区(Sector)对应的编号。即可在磁盘上定位所要访问的扇区。这种磁盘数据定位方式叫做 CHS 。不过实际系统软件使用的并不是 CHS (但是硬件是),而是 LBA ,一种线性地址,可以想象成虚拟地址与物理地址。系统将 LBA 地址最后会转化成为 CHS ,交给磁盘去进行数据读取。不过,我们现在不关心转化细节,知道这个东西,让我们逻辑自洽起来即可。

(4)结论

我们现在已经能够在硬件层面定位,任何一个基本数据块了(扇区)。那么在系统软件上,就直接按照扇区(512字节,部分4096字节),进行IO交互吗?不是。

如果操作系统直接使用硬件提供的数据大小进行交互,那么系统的IO代码,就和硬件强相关,换言之,如果硬件发生变化,系统必须跟着变化。

从目前来看,单次IO 512字节,还是太小了。IO单位小,意味着读取同样的数据内容,需要进行多次磁盘访问,会带来效率的降低。

之前学习文件系统,就是在磁盘的基本结构下建立的,文件系统读取基本单位,就不是扇区,而是数据块。

故,系统读取磁盘,是以块为单位的,基本单位是 4KB 。

(5)磁盘随机访问与连续访问

随机访问:本次IO所给出的扇区地址和上次IO给出扇区地址不连续,这样的话磁头在两次IO操作之间需要作比较大的移动动作才能重新开始读/写数据。

连续访问:如果当次IO给出的扇区地址与上次IO结束的扇区地址是连续的,那磁头就能很快的开始这次IO操作,这样的多个IO操作称为连续访问。

因此尽管相邻的两次IO操作在同一时刻发出,但如果它们的请求的扇区地址相差很大的话也只能称为随机访问,而非连续访问。

磁盘是通过机械运动进行寻址的,随机访问不需要过多的定位,故效率比较高。

3.MySQL与磁盘交互基本单位

MySQL 作为一款应用软件,可以想象成一种特殊的文件系统。它专门聚焦于进行数据IO和存储的应用层的服务,因此有着很高的IO场景,所以,为了提高基本的IO效率, MySQL 进行IO的基本单位是 16KB (使用 InnoDB 存储引擎)

也就是说,磁盘这个硬件设备的基本单位是 512 字节,而 MySQL InnoDB引擎 使用 16KB 进行IO交互。即, MySQL 和磁盘进行数据交互的基本单位是 16KB 。这个基本数据单元,在 MySQL 这里叫做page(注意和系统的page区分)

三.建立共识

(1)MySQL 中的数据文件,是以page为单位保存在磁盘当中的。

(2)MySQL 的 CURD 操作,都需要通过计算,找到对应的插入位置,或者找到对应要修改或者查询的数据。

(3)而只要涉及计算,就需要CPU参与,而为了便于CPU参与,一定要能够先将数据移动到内存当中。

(4)所以在特定时间内,数据一定是磁盘中有,内存中也有。后续操作完内存数据之后,以特定的刷新策略,刷新到磁盘。而这时,就涉及到磁盘和内存的数据交互,也就是IO了。而此时IO的基本单位就是Page。

(5)为了更好的进行上面的操作, MySQL 服务器在内存中运行的时候,在服务器内部,就申请了被称为 Buffer Pool 的的大内存空间,来进行各种缓存。其实就是很大的内存空间,来和磁盘数据进行IO交互。

(6)为了更高的效率,一定要尽可能的减少系统和磁盘IO的次数。

四.索引的理解

1.测试表

这里建立user表,且id为主键。

这里id是主键,以乱序的id插入五个数据,但是查询时,发现id以升序排好序显示的。

那么这 是谁做的? 为什么这么做?

要想解决这个问题,接下来要先理解page和页目录。

了解了之后,再回来看两个问题,就知道答案了:

**是谁做的?**mysql自己做的

**为什么这么做?**因为只有page内部的数据是有序的,才能方便引入页内目录(才能增加查找速度)

2.page

(1)为什么IO交互是page

为何MySQL和磁盘进行IO交互的时候,要采用Page的方案进行交互呢?

为什么不像懒汉模式那样,用多少加载多少呢?

如上面的5条记录,如果MySQL要查找id=2的记录,第一次加载id=1,第二次加载id=2,一次一条记录,那么就需要2次IO。如果要找id=5,那么就需要5次IO。

但,如果这5条(或者更多)都被保存在一个Page中(16KB,能保存很多记录),那么第一次IO查找id=2的时候,整个Page会被加载到MySQL的Buffer Pool中,这里完成了一次IO。但是往后如果在查找id=1,3,4,5等,完全不需要进行IO了,而是直接在内存中进行了。所以,就在单Page里面,大大减少了IO的次数。

那怎么保证,用户一定下次找的数据,就在这个Page里面?

我们不能严格保证,但是有很大概率,因为有局部性原理。

往往IO效率低下的最主要矛盾不是IO单次数据量的大小,而是IO的次数。

(2)单个page

MySQL 中要管理很多数据表文件,而要管理好这些文件,就需要 先描述,再组织 ,我们目前可以简单理解成一个个独立文件是有一个或者多个Page构成的。

不同的 Page ,在 MySQL 中,都是 16KB ,使用 prev 和 next 构成双向链表

因为有主键的问题, MySQL 会默认按照主键给我们的数据进行排序,从上面的Page内数据记录可以看出,数据是有序且彼此关联的。

为什么数据库在插入数据时要对其进行排序呢?我们按正常顺序插入数据不是也挺好的吗。

插入数据时排序的目的,就是优化查询的效率。

页内部存放数据的模块,实质上也是一个链表的结构,链表的特点也就是增删快,查询修改慢,所以优化查询的效率是必须的。

正是因为有序,在查找的时候,从头到后都是有效查找,没有任何一个查找是浪费的,而且,如果运气好,是可以提前结束查找过程的。

(3)多个page

通过上面的分析,我们知道,上面页模式中,只有一个功能,就是在查询某条数据的时候直接将一整页的数据加载到内存中,以减少硬盘IO次数,从而提高性能。但是,我们也可以看到,现在的页模式内部,实际上是采用了链表的结构,前一条数据指向后一条数据,本质上还是通过数据的逐条比较来取出特定的数据。

如果有1千万条数据,一定需要多个Page来保存1千万条数据,多个Page彼此使用双链表链接起来,而且每个Page内部的数据也是基于链表的。那么,查找特定一条记录,也一定是线性查找。这样效率非常低。

3.页目录

我们在看一本书的时候,如果我们要看某一个章节,找到该章节有两种做法:

①从头逐页的向后翻,直到找到目标内容。

②通过书提供的目录,发现这一章节在123页(假设),那么我们便直接翻到123页。同时,查找目录的方案,可以顺序找,不过因为目录肯定少,所以可以快速提高定位。

本质上,书中的目录,是多花了纸张的,但是却提高了效率。

所以,目录,是一种"空间换时间的做法"。

(1)单页情况

针对上面的单页Page,我们能否也引入目录呢?当然可以。

那么当前,在一个Page内部,我们引入了目录。比如,我们要查找id=4记录,之前必须线性遍历4次,才能拿到结果。现在直接通过目录2[3],直接进行定位新的起始位置,提高了效率。

现在我们可以再次正式回答上面的问题了,为何通过键值 MySQL 会自动排序?

可以很方便引入目录。

(2)多页情况

MySQL 中每一页的大小只有 16KB ,单个Page大小固定,所以随着数据量不断增大, 16KB 不可能存下所有的数据,那么必定会有多个页来存储数据。

在单表数据不断被插入的情况下, MySQL 会在容量不足的时候,自动开辟新的Page来保存新的数据,然后通过指针的方式,将所有的Page组织起来。

需要注意,上面的图,是理想结构,大家也知道,目前要保证整体有序,那么新插入的数据,不一定会在新Page上面,这里仅仅做演示。

这样,我们就可以通过多个Page遍历,Page内部通过目录来快速定位数据。可是,貌似这样也有效率问题,在Page之间,也是需要 MySQL 遍历的,遍历意味着依旧需要进行大量的IO,将下一个Page加载到内存,进行线性检测。这样就显得我们之前的Page内部的目录,就有点杯水车薪了。

那么如何解决呢?解决方案,其实就是我们之前的思路,给Page也带上目录。

使用一个目录项来指向某一页,而这个目录项存放的就是将要指向的页中存放的最小数据的键值。

和页内目录不同的地方在于,这种目录管理的级别是页,而页内目录管理的级别是行。

其中,每个目录项的构成是:键值+指针。图中没有画全。

存在一个目录页来管理页目录,目录页中的数据存放的就是指向的那一页中最小的数据。有数据,就可通过比较,找到该访问那个Page,进而通过指针,找到下一个Page。

其实目录页的本质也是页,普通页中存的数据是用户数据,而目录页中存的数据是普通页的地址。可是,我们每次检索数据的时候,该从哪里开始呢?虽然顶层的目录页少了,但是还要遍历啊?不用担心,可以再加目录页。

这就是B+树。没错,至此,我们已经给我们的表user构建完了主键索引。

随便查询一个id=?我们发现,现在查找的Page数一定减少了,也就意味着IO次数减少了,那么效率也就提高了。

总结:

Page分为目录页和数据页。目录页只放各个下级Page的最小键值。

查找的时候,自顶向下找,只需要加载部分目录页到内存,即可完成算法的整个查找过程,大大减少了IO次数。

4.主键索引

① 具有主键表,一表一个B+,每个表都有自己的B+树结构。

② 如果没有主键,目前我们认为所有的数据是线性组织的(但是,实际上,mysql会自动形成隐藏主键,这个在后面的事务中会提到)

③ B+树中所有的叶子节点、路上节点,是不需要全部都加载到内存的,可以按需进行load mysql page。

注意这个是主键索引,唯一键和普通键也可以建立索引。

5.InnoDB引擎建立索引时,为什么不用其他数据结构

链表:线性遍历,太慢。

二叉搜索树:退化问题,可能退化成为线性结构。

AVL &&红黑树:虽然是平衡或者近似平衡,但是毕竟是二叉结构,相比较多阶B+,意味着树整体过高。大家都是自顶向下找,层高越低,意味着系统与硬盘更少的IO Page交互。因此B+的层数更低,要比AVL和红黑树更好。

Hash:官方的索引实现方式中, MySQL 是支持HASH的,不过 InnoDB 和 MyISAM 并不支持。Hash跟进其算法特征,决定了虽然有时候也很快(O(1)),不过,在面对范围查找就明显不行,另外还有其他差别。

这里比较常见的InnoDB和MyISAM引擎都是BTREE,BTREE就是B+树。

那为什么不用B树呢?

6.B+树 vs B树

B树:

B+树:

目前这两棵树,对我们最有意义的区别是:

① B树节点,既有数据,又有Page指针,而B+,只有叶子节点有数据,其他目录页,只有键值和Page指针。

② B+叶子节点,全部相连,而B没有。

为何选择B+(这里上面的多页情况的图中写的很清楚,这里再说一下):

① 节点不存储data,这样一个节点就可以存储更多的key。可以使得树更矮,所以IO操作次数更少。

② 叶子节点相连,更便于进行范围查找。

7.聚簇索引 vs 非聚簇索引

MyISAM 存储引擎-主键索引

MyISAM 引擎同样使用B+树作为索引结果,叶节点的data域存放的是数据记录的地址。下图为 MyISAM表的主索引, Col1 为主键。

其中, MyISAM 最大的特点是,将索引Page和数据Page分离,也就是叶子节点没有数据,只有对应数据的地址。

相较于 MyISAM 索引, InnoDB 是将索引和数据放在一起的。

MyISAM 这种用户数据与索引数据分离的索引方案,叫做非聚簇索引

InnoDB 这种用户数据与索引数据在一起索引方案,叫做聚簇索引。

一张表,不仅仅只有一个索引结构。当我们建立表结构的时候,如果有主键,默认mysqld会为我们构建主键索引。

当然, MySQL 除了默认会建立主键索引外,我们用户也有可能建立按照其他列信息建立的索引,一般这种索引可以叫做辅助(普通)索引。

对于 MyISAM ,建立辅助(普通)索引和主键索引没有差别,无非就是主键不能重复,而非主键可重复。

下图就是基于 MyISAM 的 Col2 建立的索引,这个普通索引和主键索引没有差别。

同样, InnoDB 除了主键索引,用户也会建立辅助(普通)索引,我们以上表中的 Col3 建立对应的辅助索引如下图:

可以看到, InnoDB 的非主键索引中叶子节点并没有数据,而只有对应记录的key值。

所以通过辅助(普通)索引,找到目标记录,需要两遍索引:首先检索辅助索引获得主键,然后用主键到主索引中检索获得记录。这种过程,就叫做回表查询

为何 InnoDB 针对这种辅助(普通)索引的场景,不给叶子节点也附上数据呢?原因就是太浪费空间了。

myISAM存储引擎,构建主键或者普通索引就是构建B+,叶子保存数据记录的地址即可。

innoDB存储引擎,构建主键索引,是聚簇的;但是普通索引,只需要根据普通列构建B+,然后叶子上放的就是该普通数据对应记录的主键id,后续查找的时候可以通过回表的方式进行查找(并不是每次都要回表,如果要找的数据就是构建的普通索引数据本身,就不需要回表了)

构建主键的时候,可以是复合主键。如果我们用复合主键来创建索引,比如(name,qq),这里我们想要根据name去查询其对应的qq,那么根据name索引找到对应的名字后,直接就可以得到其qq,因为name和qq的索引是在一起的,直接可以根据这个索引,拿到对应的索引数据作为结果返回,这叫做索引覆盖。相当于索引本身把主键表覆盖了,查询的时候不需要主键表了。

判断聚簇索引和非聚簇索引:

一个空表只有这一个文件。

创建一个innoDB引擎的表,会多出来两个文件,后缀分别为.frm和.ibd

再创建一个MyISAM引擎的表,可以发现多出来三个文件,后缀分别为.frm, .MYD, .MYI

.frm是表结构,.ibd将索引和数据保存在一个文件中。

.MYI保存的是索引,.MYD保存的是数据。

辨别是聚簇索引还是非聚簇索引,就可以根据这个看出来,因为innoDB主键索引是聚簇索引,所以索引和数据保存在一个文件,一共2个文件;而MyISAM是非聚簇索引,所以索引和数据保存在两个文件,一共3个文件。

五.索引操作

1.创建主键索引

(1)第一种方式

-- 在创建表的时候,直接在字段名后指定 primary key

create table user1(id int primary key, name varchar(30));

构建一个表时,如果指明了id是主键,那么mysql在innoDB存储引擎下就会以构建B+树。

(2)第二种方式

-- 在创建表的最后,指定某列或某几列为主键索引

create table user2(id int, name varchar(30), primary key(id));

(3)第三种方式

create table user3(id int, name varchar(30));

-- 创建表以后再添加主键

alter table user3 add primary key(id);

这三种方式其实就是添加主键的三种方式。

主键索引的特点:

① 一个表中,最多有一个主键索引,当然可以使用复合主键

② 主键索引的效率高(主键不可重复)

③ 创建主键索引的列,它的值不能为null,且不能重复

④ 主键索引的列基本上是int

2.创建唯一键索引

(1)第一种方式

-- 在表定义时,在某列后直接指定unique唯一属性。

create table user4(id int primary key, name varchar(30) unique);

(2)第二种方式

-- 创建表时,在表的后面指定某列或某几列为unique

create table user5(id int primary key, name varchar(30), unique(name));

(3)第三种方式

create table user6(id int primary key, name varchar(30));

alter table user6 add unique(name);

这三种方式其实就是添加唯一键的三种方式。

唯一键索引就是普通索引,只不过是建立在唯一键上。所以如果有主键和唯一键,那么这一个表就至少已经创建了两个B+树了。如果要根据唯一键索引数据找其它数据时,就要先查找唯一键索引构建的B+树,找到对应的主键,进行回表查询,再根据主键索引找到叶子节点,得到对应的数据,再返回。

唯一键索引的特点:

① 一个表中,可以有多个唯一索引

② 查询效率高

③ 如果在某一列建立唯一索引,必须保证这列不能有重复数据

④ 如果一个唯一索引上指定not null,等价于主键索引

3.创建普通索引

(1)第一种方式

create table user8(id int primary key,

name varchar(20),

email varchar(30),

index(name) --在表的定义最后,指定某列为索引

);

name行的Key一列中,就为MUL,说明是普通索引。

(2)第二种方式

create table user9(id int primary key, name varchar(20), email varchar(30));

alter table user9 add index(name); --创建完表以后指定某列为普通索引

(3)第三种方式

create table user10(id int primary key, name varchar(20), email varchar(30));

-- 创建一个索引名为 idx_name 的索引

create index idx_name on user10(name);

这里id是主键,name是唯一键,qq被添加了普通索引。显示的索引结构中可以看到,name和qq显示的信息基本类似,Key_name和Colume_name都是以它自己命名的,只有id的主键索引是的Key_name是PRIMARY,这也更加说明了唯一键索引就是普通索引。这个BTREE就说明是B+树。

而这里的Key_name其实是索引的名字,这就是第三种创建索引的方式,可以给在创建的时候给索引起名字。

接下来先删掉qq和id的索引:

重新按照qq建立普通索引,但是起个新名字为myqqindex:

这里可以看到Key_name就变成我们起的名字了。

接下来我们想删掉这个新添加的索引,就不能用qq了,而是要用我们起的名字myqqindex。因此删除识别的就是Key_name。

建议不要起别的名字,因为列属性就是唯一的,如果起别的名字,还需要维护这个名字不能重复。

普通索引的特点:

① 一个表中可以有多个普通索引,普通索引在实际开发中用的比较多。

② 如果某列需要创建索引,但是该列有重复的值,那么我们就应该使用普通索引。

4.创建复合索引

和创建正常索引的方法一样,只是创建的索引是以多个列创建的。

创建复合索引:

这两列的Key_name都是相同的,一个列是name,一个列是qq。

想要删除,就直接删掉myindex即可。

如果直接创建,不自己起名字:

这里Key_name是这个复合索引的前面一列的名字,因此想要删除,直接删掉name。

5.创建全文索引

当对文章字段或有大量文字的字段进行检索时,会使用到全文索引。MySQL提供全文索引机制,但是有要求,要求表的存储引擎必须是MyISAM,而且默认的全文索引支持英文,不支持中文。如果对中文进行全文检索,可以使用sphinx的中文版(coreseek)。

这个body是一个文章,很长,我们想在body内部构建索引,想要对这个body内容本身做查找。这个全文索引就是对一列中大文本的内容做索引的。

下面我们想查询有没有database数据:

如果使用这种查询方式,是没有用到全文索引的,是一个一个查询的,效率很低。

explain是一个预执行命令,可以让后面的sql语句在执行时告诉他们不要去运行,但是会告诉他们怎么去运行。

这里可以看到,key为NULL,说明没有用到索引,因此查询效率低。

使用全文索引:

match 字段名 against 查找数据

这里就使用了全文索引,用explain看一下:

这里可以看到type变成了fulltext,key变成了title,key不是NULL表明它用到了索引。

6.查询索引

(1)第一种方式

show keys from 表名

\G显示的更清晰一些。

(2)第二种方式

show index from 表名;

(3)第三种方式

desc 表名;

这个显示的信息比较简略。

7.删除索引

(1)第一种方式(删除主键索引)

alter table 表名 drop primary key;

(2)第二种方式(删除其它索引)

alter table 表名 drop index 索引名;

索引名就是show index from 表名中的Key_name字段。

(3)第三种方式

drop index 索引名 on 表名;

8.索引创建原则

① 比较频繁作为查询条件的字段应该创建索引

② 唯一性太差的字段不适合单独创建索引,即使频繁作为查询条件

③ 更新非常频繁的字段不适合作创建索引

④ 不会出现在where子句中的字段不该创建索引

相关推荐
远歌已逝18 分钟前
维护在线重做日志(二)
数据库·oracle
qq_433099401 小时前
Ubuntu20.04从零安装IsaacSim/IsaacLab
数据库
Dlwyz1 小时前
redis-击穿、穿透、雪崩
数据库·redis·缓存
工业甲酰苯胺3 小时前
Redis性能优化的18招
数据库·redis·性能优化
没书读了4 小时前
ssm框架-spring-spring声明式事务
java·数据库·spring
i道i5 小时前
MySQL win安装 和 pymysql使用示例
数据库·mysql
小怪兽ysl5 小时前
【PostgreSQL使用pg_filedump工具解析数据文件以恢复数据】
数据库·postgresql
wqq_9922502775 小时前
springboot基于微信小程序的食堂预约点餐系统
数据库·微信小程序·小程序
爱上口袋的天空5 小时前
09 - Clickhouse的SQL操作
数据库·sql·clickhouse
Oak Zhang6 小时前
sharding-jdbc自定义分片算法,表对应关系存储在mysql中,缓存到redis或者本地
redis·mysql·缓存