order by 优化

1. 排序方式

MySQL支持两种方式的排序,FileSortIndex

  • Index的效率高,它指MySQL根据索引本身完成排序。
  • FileSort方式效率较低,是指MySQL自己扫描数据之后进行排序,没有使用到index

因此,我们要让order by尽量使用到index进行排序。

2. 优化index排序

ORDER BY满足两情况,会使用Index方式排序:

  • ORDER BY语句使用索引最左前列。
  • 使用WHERE子句与ORDER BY子句条件列组合满足索引最左前列。

因此,在使用ORDER BY时,我们要尽量建立合适的索引,满足上述两种情况。

3. 优化filesort排序

如果不在索引列上,File Sort有两种算法:MySQL就要启动双路排序算法和单路排序算法

3.1 两种排序算法介绍

  • 双路排序算法:MySQL4.1之前使用双路排序,字面意思就是两次扫描磁盘,最终得到数据,读取行指针和ORDER BY列,対他们进行排序,然后扫描已经排序好的列表,按照列表中的值重新从列表中读取对应的数据输出。一句话,从磁盘取排序字段,在buffer中进行排序,再从磁盘取其他字段。

取一批数据,要对磁盘进行两次扫描,众所周知,IO是很耗时的,所以在MySQL4.1之后,出现了改进的算法,就是单路排序算法。

  • 单路排序算法:从磁盘读取查询需要的所有列,按照ORDER BY列在buffer対它们进行排序,然后扫描排序后的列表进行输出,它的效率更快一些,避免了第二次读取数据。并且把随机IO变成了顺序IO,但是它会使用更多的空间,因为它把每一行都保存在内存中了。

总体而言效率好过双路排序算法。

但是单路排序算法有问题:如果SortBuffer缓冲区太小,导致从磁盘中读取所有的列不能完全保存在SortBuffer缓冲区中,这时候单路复用算法就会出现问题,反而性能不如双路复用算法。

3.2 优化思路

单路复用算法的优化策略:

  • 增大sort_buffer_size参数的设置。
  • 增大max_length_for_sort_data参数的设置。

提高ORDER BY排序的速度:

  • ORDER BY时使用SELECT *是大忌,查什么字段就写什么字段,这点非常重要。在这里的影响是:

    • 当查询的字段大小总和小于max_length_for_sort_data而且排序字段不是TEXT|BLOB类型时,会使用单路排序算法,否则使用多路排序算法。
    • 两种排序算法的数据都有可能超出sort_buffer缓冲区的容量,超出之后,会创建tmp临时文件进行合并排序,导致多次IO,但是单路排序算法的风险会更大一些,所以要增大sort_buffer_size参数的设置。
    • 查什么字段就写什么字段,如果存在覆盖索引,即使排序顺序与索引顺序不符,无法直接利用索引进行排序,但sql也可以直接扫描索引而无需全表扫描,减少I/O次数,从而提高排序速度。(具体情况看sql版本)
  • 尝试提高sort_buffer_size:不管使用哪种算法,提高这个参数都会提高效率,当然,要根据系统的能力去提高,因为这个参数是针对每个进程的。

  • 尝试提高max_length_for_sort_data:提高这个参数,会增加用单路排序算法的概率。但是如果设置的太高,数据总容量sort_buffer_size的概率就增大,明显症状是高的磁盘IO活动和低的处理器使用率。

相关推荐
G探险者16 分钟前
如何找到那些慢 SQL?
后端·sql
絆人心1 小时前
最新 SQL 常用语句大全(新手入门 + 老手速查,含 DQL/DML/DDL)
数据库·sql·oracle
星辰_mya1 小时前
SQL 性能调优:EXPLAIN 详解与慢查询优化案例
数据库·sql·面试·架构师
AAA_搬砖达人小郝1 小时前
SQL 高级查询技巧:WITH + UNION ALL + EXISTS + WHERE TRUE/FALSE 联合实战
数据库·sql
sunwenjian8862 小时前
DVWA靶场通关——SQL Injection篇
数据库·sql
电商API&Tina3 小时前
唯品会数据采集API接口||电商API数据采集
java·javascript·数据库·python·sql·json
我没想到原来他们都是一堆坏人4 小时前
SQL 表结构定义(索引与约束)学习笔记一——索引、外键与级联约束
笔记·sql·学习
二等饼干~za8986684 小时前
豆包GEO优化源码开发全解析:技术架构、实现逻辑与实操指南
数据库·sql·重构·架构·mybatis·音视频
快乐非自愿5 小时前
MySQL优化全攻略:索引、SQL与分库分表的最佳实践
android·sql·mysql
HenbCode5 小时前
# Hive 性能优化实战
sql·apache hive