MySQL 学习笔记(进阶篇1)

一、存储引擎

1. MySQL体系结构:

(1) 连接层:最上层是一些客户端和链接服务,主要完成一些类似于连接处理、授权认证、及相关的安全方案。服务器也会为安全接入的每个客户端验证它所具有的操作权限。

(2) 服务层:第二层架构主要完成大多数的核心服务功能,如 SQL 接口,并完成缓存的查询,SQL 的分析和优化,部分内置函数的执行。所有跨存储引擎的功能也在这一层实现,如过程、函数等。

(3) 引擎层:存储引擎真正的负责了 MySQL 中数据的存储和提取,服务器通过 API 和存储引擎进行通信。不同的存储引擎具有不同的功能,这样我们可以根据自己的需要,来选取合适的存储引擎。

(4) 存储层:主要是将数据存储在文件系统之上,并完成与存储引擎的交互。

2. 存储引擎

(1) 存储引擎就是存储数据、建立索引、更新/查询数据等技术的实现方式。存储引擎是基于表而不是基于库的,所以存储引擎也可以被称为表引擎。

(2) 默认存储引擎是InnoDB。

(3) 相关操作:

复制代码
-- 查询建表语句
show create table account;
-- 建表时指定存储引擎
CREATE TABLE 表名(
	...
) ENGINE=INNODB;
-- 查看当前数据库支持的存储引擎
show engines;
3. InnoDB

(1) InnoDB 是一种兼顾高可靠性和高性能的通用存储引擎,在 MySQL 5.5 之后,InnoDB 是默认的 MySQL 引擎

(2) 特点:

  • DML 操作遵循 ACID 模型,支持事务
  • 行级锁,提高并发访问性能
  • 支持外键约束,保证数据的完整性和正确性

① 表锁: 锁住整个表 的锁。当某个人操作(增删改)这个表时,会把整个表 "锁起来",其他人在锁释放前,不能操作这个表的任何数据

② 行锁(hang suo): 只锁住表中某一行(或几行)数据的锁。当某个人操作某一行时,只锁这一行,其他行的数据还是可以被其他人正常操作。

(3) 文件:

  • xxx.ibd: xxx代表表名,InnoDB 引擎的每张表都会对应这样一个表空间文件,存储该表的表结构(frm、sdi)、数据和索引。

参数:innodb_file_per_table,决定多张表共享一个表空间还是每张表对应一个表空间

(4) InnoDB 逻辑存储结构:

4. MyISAM

(1) MyISAM 是 MySQL 早期的默认存储引擎。

(2) 特点:

  • 不支持事务,不支持外键
  • 支持表锁,不支持行锁
  • 访问速度快

(3) 文件:

  • xxx.sdi: 存储表结构信息
  • xxx.MYD: 存储数据
  • xxx.MYI: 存储索引
5. Memory

(1) Memory 引擎的表数据是存储在内存中的,受硬件问题、断电问题的影响,只能将这些表作为临时表或缓存使用。

(2) 特点:

  • 存放在内存中,速度快
  • hash索引(默认)

(3) 文件:

  • xxx.sdi: 存储表结构信息
6. 存储引擎特点
特点 InnoDB MyISAM Memory
存储限制 64TB
事务安全 支持 - -
锁机制 行锁 表锁 表锁
B+tree索引 支持 支持 支持
Hash索引 - - 支持
全文索引 支持(5.6版本之后) 支持 -
空间使用 N/A
内存使用 中等
批量插入速度
支持外键 支持 - -
7. 存储引擎的选择

(1) 在选择存储引擎时,应该根据应用系统的特点选择合适的存储引擎。对于复杂的应用系统,还可以根据实际情况选择多种存储引擎进行组合。

  • InnoDB: 如果应用对事物的完整性有比较高的要求,在并发条件下要求数据的一致性,数据操作除了插入和查询之外,还包含很多的更新、删除操作,则 InnoDB 是比较合适的选择
  • MyISAM: 如果应用是以读操作和插入操作为主,只有很少的更新和删除操作,并且对事务的完整性、并发性要求不高,那这个存储引擎是非常合适的。
  • Memory: 将所有数据保存在内存中,访问速度快,通常用于临时表及缓存。Memory 的缺陷是对表的大小有限制,太大的表无法缓存在内存中,而且无法保障数据的安全性

电商中的足迹和评论适合使用 MyISAM 引擎,缓存适合使用 Memory 引擎。

二、索引

索引是帮助 MySQL 高效获取数据数据结构(有序)。在数据之外,数据库系统还维护着满足特定查找算法的数据结构,这些数据结构以某种方式引用(指向)数据,这样就可以在这些数据结构上实现高级查询算法,这种数据结构就是索引。

1. 优缺点:

① 优点:

  • 提高数据检索效率,降低数据库的IO成本
  • 通过索引列对数据进行排序,降低数据排序的成本,降低CPU的消耗

② 缺点:

  • 索引列也是要占用空间的
  • 索引大大提高了查询效率,但降低了更新的速度,比如 INSERT、UPDATE、DELETE
2. 索引结构
索引结构 描述
B+Tree 最常见的索引类型,大部分引擎都支持B+树索引
Hash 底层数据结构是用哈希表实现,只有精确匹配索引列的查询才有效,不支持范围查询
R-Tree(空间索引) 空间索引是 MyISAM 引擎的一个特殊索引类型,主要用于地理空间数据类型,通常使用较少
Full-Text(全文索引) 是一种通过建立倒排索引,快速匹配文档的方式,类似于 Lucene, Solr, ES
索引 InnoDB MyISAM Memory
B+Tree索引 支持 支持 支持
Hash索引 不支持 不支持 支持
R-Tree索引 不支持 支持 不支持
Full-text 5.6版本后支持 支持 不支持

(1) B-Tree(多路平衡查找树)

① 二叉树缺点:顺序插入时,会形成一个链表,查询性能大大降低。大数据量情况下,层级较深,检索速度慢。而二叉树的缺点可以用红黑树来解决:

② 红黑树也存在大数据量情况下,层级较深,检索速度慢的问题。为了解决上述问题,可以使用 B-Tree 结构。

③ B-Tree 以一棵最大度数(max-degree,指一个节点的子节点个数)为5(5阶)的 b-tree 为例(每个节点最多存储4个key,5个指针)

(2) B+Tree

① 与 B-Tree 的区别:

  • 所有的数据都会出现在叶子节点
  • 叶子节点形成一个单向链表

② MySQL 索引数据结构对经典的 B+Tree 进行了优化。在原 B+Tree 的基础上,增加一个指向相邻叶子节点的链表指针,就形成了带有顺序指针的 B+Tree,提高区间访问的性能。

(3) Hash

① 哈希索引就是采用一定的hash算法,将键值换算成新的hash值,映射到对应的槽位上,然后存储在hash表中。如果两个(或多个)键值,映射到一个相同的槽位上,他们就产生了hash冲突(也称为hash碰撞),可以通过链表来解决。

② 特点:

  • Hash索引只能用于对等比较(=、in),不支持范围查询(betwwn、>、<、...)
  • 无法利用索引完成排序操作
  • 查询效率高,通常只需要一次检索就可以了,效率通常要高于 B+Tree 索引

③ 存储引擎支持:

  • Memory
  • InnoDB: 具有自适应hash功能,hash索引是存储引擎根据 B+Tree 索引在指定条件下自动构建的

(4) 面试题:为什么 InnoDB 存储引擎选择使用 B+Tree 索引结构?

  • 相对于二叉树,层级更少,搜索效率高
  • 对于 B-Tree,无论是叶子节点还是非叶子节点,都会保存数据,这样导致一页中存储的键值减少,指针也跟着减少,要同样保存大量数据,只能增加树的高度,导致性能降低
  • 相对于 Hash 索引,B+Tree 支持范围匹配及排序操作
3. 索引分类
分类 含义 特点 关键字
主键索引 针对于表中主键创建的索引 默认自动创建,只能有一个 PRIMARY
唯一索引 避免同一个表中某数据列中的值重复 可以有多个 UNIQUE
常规索引 快速定位特定数据 可以有多个
全文索引 全文索引查找的是文本中的关键词,而不是比较索引中的值 可以有多个 FULLTEXT

(1) 在 InnoDB 存储引擎中,根据索引的存储形式,又可以分为以下两种:

分类 含义 特点
聚集索引(Clustered Index) 将数据存储与索引放一块,索引结构的叶子节点保存了行数据 必须有,而且只有一个
二级索引(Secondary Index) 将数据与索引分开存储,索引结构的叶子节点关联的是对应的主键 可以存在多个

Q:叶子节点是什么?

A:叶子节点是 树结构中没有子节点的节点,也就是树的「最底层终端节点」

(2) 演示图:

(3) 聚集索引选取规则:

  • 如果存在主键,主键索引就是聚集索引
  • 如果不存在主键,将使用第一个唯一(UNIQUE)索引作为聚集索引
  • 如果表没有主键或没有合适的唯一索引,则 InnoDB 会自动生成一个 rowid 作为隐藏的聚集索引

(4) 思考题

① 以下 SQL 语句,哪个执行效率高?为什么?

sql 复制代码
select * from user where id = 10;
select * from user where name = 'Arm';
-- 备注:id为主键,name字段创建的有索引

答:第一条语句,因为第二条需要回表查询,相当于两个步骤。

(2) InnoDB 主键索引的 B+Tree 高度为多少?

答:假设一行数据大小为1k,一页中可以存储16行这样的数据。InnoDB 的指针占用6个字节的空间,主键假设为bigint,占用字节数为8,可得公式:

sql 复制代码
n×8(主键总大小) + (n+1)×6(指针总大小) = 16×1024(页大小)

其中 8 表示 bigint 占用的字节数,n 表示当前节点存储的key的数量,(n + 1) 表示指针数量(比key多一个)。算出n约为1170。

① 如果树的高度为2,那么他能存储的数据量为:

  • 根节点是 1 个非叶子节点,有 1171 个指针;
  • 每个指针对应 1 个叶子节点,每个叶子节点存 16 行;
  • 总数据量 = 1171(叶子节点数量) × 16(每个叶子节点行数) = 18736 行。

② 如果树的高度为3,那么他能存储的数据量为:1171 * 1171 * 16 = 21939856

  • 根节点有 1171 个指针,对应 1171 个中间层非叶子节点;
  • 每个中间层非叶子节点又有 1171 个指针,对应 1171 个叶子节点;
  • 总数据量 = 1171(中间层数量) × 1171(叶子节点数量) × 16(每个叶子节点行数) ≈ 2193 万行。
4. 语法

(1) 创建索引:

sql 复制代码
CREATE [ UNIQUE | FULLTEXT ] INDEX index_name ON table_name (index_col_name, ...);

如果 CREATE 后面不加索引类型参数,则创建的是常规索引

(2) 查看索引:

sql 复制代码
SHOW INDEX FROM table_name;

(3) 删除索引:

sql 复制代码
DROP INDEX index_name ON table_name;

(4) 案例:

sql 复制代码
-- name字段为姓名字段,该字段的值可能会重复,为该字段创建索引
create index idx_user_name on tb_user(name);
-- phone手机号字段的值非空,且唯一,为该字段创建唯一索引
create unique index idx_user_phone on tb_user (phone);
-- 为profession, age, status创建联合索引
create index idx_user_pro_age_stat on tb_user(profession, age, status);
-- 为email建立合适的索引来提升查询效率
create index idx_user_email on tb_user(email);

-- 删除索引
drop index idx_user_email on tb_user;
5. 性能分析

(1) 查看执行频次

查看当前数据库的 INSERT, UPDATE, DELETE, SELECT 访问频次:

sql 复制代码
SHOW GLOBAL STATUS LIKE 'Com_______';

(2) 慢查询日志

① 慢查询日志记录了所有执行时间超过指定参数(long_query_time,单位:秒,默认10秒)的所有SQL语句的日志。

② MySQL的慢查询日志默认没有开启,需要在MySQL的配置文件(/etc/my.cnf)中配置如下信息:

sql 复制代码
# 开启慢查询日志开关
slow_query_log=1
# 设置慢查询日志的时间为2秒,SQL语句执行时间超过2秒,就会视为慢查询,记录慢查询日志
long_query_time=2

③ 查看慢查询日志开关状态:

sql 复制代码
show variables like 'slow_query_log';

(3) profile

① show profile 能在做SQL优化时帮我们了解时间都耗费在哪里。通过 have_profiling 参数,能看到当前 MySQL 是否支持 profile 操作:

sql 复制代码
SELECT @@have_profiling;

② profiling 默认关闭,可以通过set语句在session/global级别开启 profiling:

sql 复制代码
SET profiling = 1;

③ 查看所有语句的耗时:

sql 复制代码
show profiles;

④ 查看指定query_id的SQL语句各个阶段的耗时:

sql 复制代码
show profile for query query_id;

⑤ 查看指定query_id的SQL语句CPU的使用情况

sql 复制代码
show profile cpu for query query_id;

(4) explain

① EXPLAIN 或者 DESC 命令获取 MySQL 如何执行 SELECT 语句的信息,包括在 SELECT 语句执行过程中表如何连接和连接的顺序。

② 语法:

bash 复制代码
# 直接在select语句之前加上关键字 explain / desc
EXPLAIN SELECT 字段列表 FROM 表名 HWERE 条件;

③ EXPLAIN 各字段含义:

  • id:select 查询的序列号,表示查询中执行 select 子句或者操作表的顺序(id相同,执行顺序从上到下;id不同,值越大越先执行)
  • select_type:表示 SELECT 的类型,常见取值有 SIMPLE(简单表,即不适用表连接或者子查询)、PRIMARY(主查询,即外层的查询)、UNION(UNION中的第二个或者后面的查询语句)、SUBQUERY(SELECT/WHERE之后包含了子查询)等
  • type:表示连接类型,性能由好到差的连接类型为 NULL、system、const、eq_ref、ref、range、index、all
  • possible_key:可能应用在这张表上的索引,一个或多个
  • Key:实际使用的索引,如果为 NULL,则没有使用索引
  • Key_len:表示索引中使用的字节数,该值为索引字段最大可能长度,并非实际使用长度,在不损失精确性的前提下,长度越短越好
  • rows:MySQL认为必须要执行的行数,在InnoDB引擎的表中,是一个估计值,可能并不总是准确的
  • filtered:表示返回结果的行数占需读取行数的百分比,filtered的值越大越好
6. 使用规则

(1) 最左前缀法则

① 如果索引关联了多列(联合索引),要遵守最左前缀法则,最左前缀法则指的是查询从索引的最左列开始,并且不跳过索引中的列。

② 如果跳跃某一列,索引将部分失效(后面的字段索引失效)。

③ 代码示例:

sql 复制代码
-- 走索引,跟顺序没关系
explain select * from tb_user where profession = '软件工程' and age = 31 and status = '0';
explain select * from tb_user where age = 31 and profession = '软件工程' and status = '0';

-- 不走索引,全部失效
explain select * from tb_user where age = 31 and status = '0';

-- 部分失效
explain select * from tb_user where profession = '软件工程' and status = '0';

④ 联合索引中,出现范围查询(<, >),范围查询右侧的列索引失效。可以用 >= 或者 <= 来规避索引失效问题。

(2) 索引失效情况

① 在索引列上进行运算操作,索引将失效。例如:

sql 复制代码
explain select * from tb_user where substring(phone, 10, 2) = '15';

② 字符串类型字段使用时,不加引号,索引将失效。例如:

sql 复制代码
-- 此处phone的值没有加引号
explain select * from tb_user where phone = 17799990015;

③ 模糊查询中,如果仅仅是尾部模糊匹配,索引不会是失效;如果是头部模糊匹配,索引失效。例如:

sql 复制代码
-- 索引失效 
explain select * from tb_user where profession like '软件%';

-- 索引不失效
explain select * from tb_user where profession like '%工程';

④ 用 or 分割开的条件,如果 or 其中一个条件的列没有索引,那么涉及的索引都不会被用到。只有两侧都有索引的时候,索引才会生效。如果要让数据的索引不失效,那么要给没有索引的创建索引。

sql 复制代码
-- 假设 age 无索引,则第一句索引失效
explain select * from tb_user where id = 10 or age = 23;

-- 为 age 创建索引后,索引成功
create index idx_user_age on tb_user(age);
explain select * from tb_user where id = 10 or age = 23;

⑤ 如果 MySQL 评估使用索引比全表更慢,则不使用索引。

7. SQL 提示

这是优化数据库的一个重要手段,简单来说,就是在SQL语句中加入一些人为的提示来达到优化操作的目的。例如:

① 使用索引:

sql 复制代码
explain select * from tb_user use index(idx_user_pro) where profession="软件工程";

② 不使用哪个索引:

sql 复制代码
explain select * from tb_user ignore index(idx_user_pro) where profession="软件工程";

③ 必须使用哪个索引:

sql 复制代码
explain select * from tb_user force index(idx_user_pro) where profession="软件工程";

use 是建议,实际使用哪个索引 MySQL 还会自己权衡运行速度去更改,force就是无论如何都强制使用该索引。

8. 覆盖索引&回表查询

(1) 尽量使用覆盖索引(查询使用了索引,并且需要返回的列,在该索引中已经全部能找到),减少 select *。explain 中 extra 字段含义:

using index condition:查找使用了索引,但是需要回表查询数据

using where; using index;:查找使用了索引,但是需要的数据都在索引列中能找到,所以不需要回表查询

(2) 如果在辅助索引中找聚集索引,只需要通过辅助索引(name)查找到对应的id,返回name和name索引对应的id即可,只需要一次查询。例如:

sql 复制代码
select id, name from xxx where name='xxx';

(3) 如果是通过辅助索引查找其他字段,则需要回表查询,例如:

sql 复制代码
select id, name, gender from xxx where name='xxx';

(4) 所以尽量不要用select *,容易出现回表查询,降低效率,除非有联合索引包含了所有字段

(5) 面试题:一张表,有四个字段(id, username, password, status),由于数据量大,需要对以下SQL语句进行优化,该如何进行才是最优方案:

sql 复制代码
select id, username, password from tb_user where username='itcast';

解:给username和password字段建立联合索引,则不需要回表查询,直接覆盖索引,这个优化的核心就是「让索引覆盖查询所需的所有字段」:

  • 利用 InnoDB 二级索引默认带主键的特性;
  • 把查询需要的非主键字段(password、username)加到联合索引里;
  • 最终实现 "一次索引查询就能拿到所有数据",彻底规避回表的性能损耗。
9. 前缀索引

(1) 当字段类型为字符串(varchar, text等)时,有时候需要索引很长的字符串,这会让索引变得很大,查询时,浪费大量的磁盘IO,影响查询效率,此时可以只将字符串的一部分前缀,建立索引,这样可以大大节约索引空间,从而提高索引效率。

(2) 语法:

sql 复制代码
create index idx_xxxx on table_name(columnn(n));

-- 案例:
create index idx_email_5 on tb_user(email(5));

(3) 前缀长度:可以根据索引的选择性来决定,而选择性是指不重复的索引值(基数)和数据表的记录总数的比值,**索引选择性越高则查询效率越高,**唯一索引的选择性是1,这是最好的索引选择性,性能也是最好的。

(4) 求选择性公式:

sql 复制代码
select count(distinct email) / count(*) from tb_user;
select count(distinct substring(email, 1, 5)) / count(*) from tb_user;

show index 里面的sub_part可以看到接取的长度

10. 单列索引&联合索引

(1) 概念

① 单列索引:即一个索引只包含单个列

② 联合索引:即一个索引包含了多个列

在业务场景中,如果存在多个查询条件,考虑针对于查询字段建立索引时,建议建立联合索引,而非单列索引。

(2) 单列索引情况:

sql 复制代码
-- 这句只会用到phone索引字段
explain select id, phone, name from tb_user where phone = '17799990010' and name = '韩信';

注意事项

  • 多条件联合查询时,MySQL优化器会评估哪个字段的索引效率更高,会选择该索引完成本次查询

(3) 设计原则

① 针对于数据量较大,且查询比较频繁的表建立索引

② 针对于常作为查询条件(where)、排序(order by)、分组(group by)操作的字段建立索引

③ 尽量选择区分度高的列作为索引,尽量**建立唯一索引,**区分度越高,使用索引的效率越高

④ 如果是字符串类型的字段,字段长度较长,可以针对于字段的特点,建立前缀索引

⑤ 尽量使用联合索引,减少单列索引,查询时,联合索引很多时候可以覆盖索引,节省存储空间,避免回表,提高查询效率

⑥ 要控制索引的数量,索引并不是多多益善,索引越多,维护索引结构的代价就越大,会影响增删改的效率

⑦ 如果索引列不能存储NULL值,请在创建表时使用NOT NULL约束它。当优化器知道每列是否包含NULL值时,它可以更好地确定哪个索引最有效地用于查询

相关推荐
程序人生5182 小时前
解决Dbeaver 连上 MySQL 数据库后不显示 information_schame、mysql 等数据库
数据库·mysql
三品吉他手会点灯2 小时前
STM32F103学习笔记-19-SysTick-系统定时器(第1节)-功能框图讲解和优先级配置
笔记·stm32·单片机·嵌入式硬件·学习
小易吾2 小时前
VISIO导出高清PDF有效方法
笔记·pdf
لا معنى له2 小时前
学习笔记:Transformer
人工智能·笔记·深度学习·学习·机器学习·transformer
JosieBook2 小时前
【Vue】03 Vue技术——Vue.js 入门学习笔记:Hello World 案例详解
vue.js·笔记·学习
li星野2 小时前
打工人日报#20251217
笔记
暗之星瞳2 小时前
mysql练习
数据库·mysql
我想我不够好。2 小时前
电工作业中元件的作用
学习
Java水解2 小时前
MySQL必备基础
后端·mysql