MySQL窗口函数——让查询变得更简单

@[TOC]

一、窗口函数概述

1、什么是窗口函数

MySQL从8.0开始支持窗口函数,有的也叫分析函数(处理相对复杂的报表统计分析场景),这个功能在大多商业数据库和部分开源数据库中早已支持。

窗口的意思是将数据进行分组,每个分组即是一个窗口,这和使用聚合函数时的group by分组类似,但与聚合函数不同的地方是: 聚合函数(例如:sum/avg/min/max)会针对每个分组(窗口)聚合出一个结果(每一组返回一个结果)。 窗口函数会对每一条数据进行计算,并不会使返回的数据变少(每一行返回一个结果)。

2、窗口函数有哪些

窗口函数可以分为两类: 一类既可以做为聚合函数,也可以作为窗口函数,当函数单独使用时是聚合函数,当与over关键字同时使用时作为窗口函数。 另一类是专用窗口函数,他们必须与 over 关键字同时使用。

(1)聚合函数(聚合函数不是本文讨论的重点)

MySQL聚合函数详解------让查询变得很简单

  • AVG() 返回自变量的平均值
  • BIT_AND() 返回按位AND
  • BIT_OR() 返回按位或
  • BIT_XOR() 返回按位异或
  • COUNT() 返回返回的行数的计数
  • COUNT(DISTINCT) 返回多个不同值的计数
  • GROUP_CONCAT() 返回串联的字符串
  • JSON_ARRAYAGG() 将结果集作为单个JSON数组返回
  • JSON_OBJECTAGG() 将结果集作为单个JSON对象返回
  • MAX() 返回最大值
  • MIN() 返回最小值
  • STD() 返回总体标准差
  • STDDEV() 返回总体标准差
  • STDDEV_POP() 返回总体标准差
  • STDDEV_SAMP() 返回样本标准偏差
  • SUM() 归还总数
  • VAR_POP() 返回总体标准方差
  • VAR_SAMP() 返回样本方差
  • VARIANCE() 返回总体标准方差

(2)专用窗口函数

序号函数:

  • row_number() 顺序排序:对数据中的序号进行顺序显示,不管其排序结果是否出现重复值,排序结果为1,2,3,4,5...
  • rank() 并列排序:相同字段数值并列排序,且跳过重复序号,如, 1,1,3,4,5 。rank函数没有参数,但需要指定按照那个字段进行排名,所以使用rank函数必须用order by参数,order by的排序字段就是排名字段
  • dense_rank() 并列排序:相同字段数值并列排序,且不跳过重复序号,如:1,1,2,3,4

分布函数:

  • percent_rank() 累计百分比。函数计算结果为:小于该条记录值的所有记录的行数/该分组的总行数-1,所以该记录的返回值为[0,1]。和之前的RANK()函数相关,每行按照如下公式进行计算: (rank - 1) / (rows - 1) 其中,rank为RANK()函数产生的序号,rows为当前窗口的记录总行数。
  • cume_dist() 累计分布值。分组值小于等于当前值的行数与分组总行数的比值 ,(0,1]。 分组内大于等于当前rank值的行数/分组内总行数。(常用)

前后函数:

  • lag(expr,n) 返回当前行的前n行的expr的值
  • lead(expr,n) 返回当前行的后n行的expr的值

头尾函数:

  • first_value(expr) 返回第一个expr的值
  • last_value(expr) 返回最后一个expr的值

其他函数:

  • nth_value(expr,n) 返回第n个expr的值
  • ntile(n) 将分区中的有序数据分为n个桶,记录桶的编号

3、基本语法

sql 复制代码
select 窗口函数 over (partition by 用于分组的列名, order by 用于排序的列名)

函数名([expr]) over(partition by <要分列的组> order by <要排序的列> rows between <数据范围>)

4、测试数据准备

sql 复制代码
CREATE TABLE `student` (
  `name` varchar(255) CHARACTER SET utf8mb4 COLLATE utf8mb4_0900_ai_ci DEFAULT NULL COMMENT '姓名',
  `course` varchar(255) CHARACTER SET utf8mb4 COLLATE utf8mb4_0900_ai_ci DEFAULT NULL COMMENT '课程',
  `score` int DEFAULT NULL COMMENT '分数'
) ENGINE=InnoDB DEFAULT CHARSET=utf8mb4 COLLATE=utf8mb4_0900_ai_ci;

INSERT INTO `athena_opencourse`.`student`(`name`, `course`, `score`) VALUES ('张三', '语文', 90);
INSERT INTO `athena_opencourse`.`student`(`name`, `course`, `score`) VALUES ('张三', '数学', 80);
INSERT INTO `athena_opencourse`.`student`(`name`, `course`, `score`) VALUES ('张三', '英语', 80);
INSERT INTO `athena_opencourse`.`student`(`name`, `course`, `score`) VALUES ('张三', '历史', 85);
INSERT INTO `athena_opencourse`.`student`(`name`, `course`, `score`) VALUES ('张三', '物理', 86);
INSERT INTO `athena_opencourse`.`student`(`name`, `course`, `score`) VALUES ('张三', '化学', 88);

INSERT INTO `athena_opencourse`.`student`(`name`, `course`, `score`) VALUES ('李四', '语文', 90);
INSERT INTO `athena_opencourse`.`student`(`name`, `course`, `score`) VALUES ('李四', '数学', 88);
INSERT INTO `athena_opencourse`.`student`(`name`, `course`, `score`) VALUES ('李四', '英语', 85);
INSERT INTO `athena_opencourse`.`student`(`name`, `course`, `score`) VALUES ('李四', '历史', 82);
INSERT INTO `athena_opencourse`.`student`(`name`, `course`, `score`) VALUES ('李四', '物理', 70);
INSERT INTO `athena_opencourse`.`student`(`name`, `course`, `score`) VALUES ('李四', '化学', 75);

INSERT INTO `athena_opencourse`.`student`(`name`, `course`, `score`) VALUES ('王五', '语文', 88);
INSERT INTO `athena_opencourse`.`student`(`name`, `course`, `score`) VALUES ('王五', '数学', 88);
INSERT INTO `athena_opencourse`.`student`(`name`, `course`, `score`) VALUES ('王五', '英语', 83);
INSERT INTO `athena_opencourse`.`student`(`name`, `course`, `score`) VALUES ('王五', '历史', 83);
INSERT INTO `athena_opencourse`.`student`(`name`, `course`, `score`) VALUES ('王五', '物理', 80);
INSERT INTO `athena_opencourse`.`student`(`name`, `course`, `score`) VALUES ('王五', '化学', 82);

二、窗口函数使用

1、初识窗口函数:使用聚合函数

通常来说,我们写一个聚合函数,会将分组内的数据进行聚合,形成一行。而窗口操作不会将多组查询行折叠成单个输出行。相反,它们为每一行产生一个结果:

sql 复制代码
SELECT 
	name,
	course,
	sum(score)
FROM
	student
group by course order by score desc;

SELECT 
	name,
	course,
	score,
	sum(score) OVER(PARTITION BY course ORDER BY score desc)
FROM
	student
;

由结果我们可以看出,窗口函数会逐行渲染数据,每一行数据不会合并,而是一行一行的累加:

sql 复制代码
SELECT 
	name,
	course,
	score,
	sum(score) OVER w 'sum',
	avg(score) OVER w 'avg',
	count(score) OVER w 'count',
	max(score) OVER w 'max',
	min(score) OVER w 'min'
FROM
	student
	window w AS (PARTITION BY course ORDER BY score desc)
;

2、序号函数:ROW_NUMBER()、RANK()、DENSE_RANK()

序号函数中,ORDER BY影响行的编号顺序。没有ORDER BY,行编号是不确定的。

  • row_number() 顺序排序:对数据中的序号进行顺序显示,不管其排序结果是否出现重复值,排序结果为1,2,3,4,5...
  • rank() 并列排序:相同字段数值并列排序,且跳过重复序号,如, 1,1,3,4,5 。rank函数没有参数,但需要指定按照那个字段进行排名,所以使用rank函数必须用order by参数,order by的排序字段就是排名字段
  • dense_rank() 并列排序:相同字段数值并列排序,且不跳过重复序号,如:1,1,2,3,4
sql 复制代码
SELECT
	name,
	course,
	score,
	ROW_NUMBER() OVER(partition by course order by score desc) AS 'row_number',
	RANK() OVER(partition by course order by score desc)  AS 'rank',
	DENSE_RANK() OVER(partition by course order by score desc)  AS 'dense_rank' 
FROM
	student;

根据结果我们很明显的可以看出这三个函数的区别,虽然都是用于产生序号,用法稍微有一些区别。

通过使用序号函数,我们可以很轻松的获取分组内前几条数据:

sql 复制代码
select * from (
SELECT
	name,
	course,
	score,
	ROW_NUMBER() OVER(partition by course order by score desc) AS 'row_number'
FROM
	student) tmp 
where tmp.row_number < 3;

3、分布函数:PERCENT_RANK()、CUME_DIST()

  • percent_rank() 累计百分比。函数计算结果为:小于该条记录值的所有记录的行数/该分组的总行数-1,所以该记录的返回值为[0,1]。和之前的RANK()函数相关,每行按照如下公式进行计算: (rank - 1) / (rows - 1) 其中,rank为RANK()函数产生的序号,rows为当前窗口的记录总行数。
  • cume_dist() 累计分布值。分组值小于等于当前值的行数与分组总行数的比值 ,(0,1]。 分组内大于等于当前rank值的行数/分组内总行数。(常用)
sql 复制代码
SELECT
	name,
	course,
	score,
	RANK() OVER(partition by course order by score desc)  AS 'rank',
	PERCENT_RANK() OVER(partition by course order by score desc)  AS 'percent_rank' ,
	CUME_DIST() OVER(partition by course order by score desc)  AS 'cume_dist'
FROM
	student;

由结果我们可以看出,PERCENT_RANK就是统计小于该值的比例,也就是排名的百分比。CUME_DIST()函数主要用于查询小于或等于该值的比例。

4、前后函数

  • lag(expr,n) 返回当前行的前n行的expr的值
  • lead(expr,n) 返回当前行的后n行的expr的值

LAG() 函数用于在查询结果中访问当前行之前的行的数据。它允许您检索前一行的值,并将其与当前行的值进行比较或计算差异。LAG()函数对于处理时间序列数据或比较相邻行的值非常有用。LAG()函数完整的表达式为 LAG(column, offset, default_value),包含三个参数: column:就是列名,获取哪个列的值就是哪个列名,很好理解。 offset: 就是向前的偏移量,取当前行的前一行就是1,前前两行就是2。 default_value:是可选值,如果向前偏移的行不存在,就取这个默认值。

sql 复制代码
SELECT
	name,
	course,
	score,
	-- LAG默认直接显示上一个的值,可用于查看与上一个值的变化
	LAG(score) OVER w AS 'LAG',
	score - LAG(score) OVER w  AS 'LAG2',
	-- LEAD默认直接显示下一个的值,可用于查看与下一个值的变化
	LEAD(score) OVER w  AS 'LEAD',
	score - LEAD(score) OVER w  AS 'LEAD2'
FROM
	student
	window w as (partition by course order by score desc)
	;

我们通过结果也可以看出,LAG显示该值与上一个值的变化(默认n为1),LEAD正好相反显示该值与下一个值的变化。常用于计算上一个值与下一个值的分数差,也可以用于统计两次请求之间相差的时间等等。

细心的小伙伴也发现了,此处我们的sql有一些变化。没错,window函数可以在最后进行命名,复用起来更加方便,后续我们会详细介绍。

5、头尾函数:FIRST_VALUE()、LAST_VALUE()

FIRST_VALUE(expr)函数返回第一个expr的值。 LAST_VALUE(expr)函数返回最后一个expr的值。

sql 复制代码
SELECT
	name,
	course,
	score,
	FIRST_VALUE(score) OVER w AS 'first',
	LAST_VALUE(score) OVER w  AS 'last'
FROM
	student
	window w as (partition by course order by score desc)
	;

从结果看,我们对FIRST_VALUE()很清晰,就是获取的第一个值,但是LAST_VALUE()获取的值跟我们想象中的不太一样呢? 没错,LAST_VALUE()是获取的框架中的最后一个值,这里引入了一个重要概念:框架(frame),框架是一个动态的概念,是组的子集,从LAST_VALUE函数可以更好看出框架的动态变化,也就是说,LAST_VALUE()获取的是截止当前行的框架内最后一个值(就是当前行自己),而不是整个组的最后一个值

6、其他函数:NTH_VALUE()、NTILE()

  • nth_value(expr,n) 返回第n个expr的值
  • ntile(n) 将分区中的有序数据分为n个桶,记录桶的编号
sql 复制代码
SELECT 
	name,
	course,
	score,
	nth_value( score, 2 ) over w 框架内第二个值,
	nth_value( score, 3 ) over w 框架内第三个值
FROM
	student window w AS ( PARTITION BY course ORDER BY score DESC );

获取框架内指定的值:

sql 复制代码
SELECT 
	name,
	course,
	score,
	NTILE(2) over w '分组'
FROM
	student window w AS ( PARTITION BY course ORDER BY score DESC );

将框架内数据再分成2组,展示所分的组:

三、窗口函数的命名

1、语法格式

sql 复制代码
WINDOW window_name AS (window_spec)
    [, window_name AS (window_spec)] ...

window_spec表达式的格式:
    [window_name] [partition_clause] [order_clause] [frame_clause]

2、使用示例

下面的例子我们同时使用了同一个window,但是写起来非常啰嗦:

sql 复制代码
SELECT
  val,
  ROW_NUMBER() OVER (ORDER BY val) AS 'row_number',
  RANK()       OVER (ORDER BY val) AS 'rank',
  DENSE_RANK() OVER (ORDER BY val) AS 'dense_rank'
FROM numbers;

使用以下命令可以更简单地编写查询WINDOW定义一次窗口并在OVER 使用:

sql 复制代码
SELECT
  val,
  ROW_NUMBER() OVER w AS 'row_number',
  RANK()       OVER w AS 'rank',
  DENSE_RANK() OVER w AS 'dense_rank'
FROM numbers
WINDOW w AS (ORDER BY val);

以下使用也是可以的,最终将PARTITION 与ORDER BY部分合并:

sql 复制代码
SELECT
  DISTINCT year, country,
  FIRST_VALUE(year) OVER (w ORDER BY year ASC) AS first,
  FIRST_VALUE(year) OVER (w ORDER BY year DESC) AS last
FROM sales
WINDOW w AS (PARTITION BY country);

但是要注意以下的场景:

sql 复制代码
-- 可以这样用,因为窗口定义和引用OVER子句不包含相同种类的属性:
OVER (w ORDER BY country)
... WINDOW w AS (PARTITION BY country)

-- 不能这样用,因为OVER子句指定PARTITION BY对于已经具有的命名窗口PARTITION BY:
OVER (w PARTITION BY year)
... WINDOW w AS (PARTITION BY country)

-- 可以这样用,它包含向前和向后引用,但不包含循环:
WINDOW w1 AS (w2), w2 AS (), w3 AS (w1)

-- 不能这样用,因为它包含一个循环:
WINDOW w1 AS (w2), w2 AS (w3), w3 AS (w1)

四、窗口函数框架

参考: dev.mysql.com/doc/refman/... blog.csdn.net/frostlulu/a...

参考资料

blog.csdn.net/CaiJin1217/... blog.csdn.net/frostlulu/a...

dev.mysql.com/doc/refman/... dev.mysql.com/doc/refman/...

相关推荐
man20171 小时前
【2024最新】基于springboot+vue的闲一品交易平台lw+ppt
vue.js·spring boot·后端
hlsd#1 小时前
关于 SpringBoot 时间处理的总结
java·spring boot·后端
路在脚下@1 小时前
Spring Boot 的核心原理和工作机制
java·spring boot·后端
幸运小圣1 小时前
Vue3 -- 项目配置之stylelint【企业级项目配置保姆级教程3】
开发语言·后端·rust
前端SkyRain2 小时前
后端Node学习项目-用户管理-增删改查
后端·学习·node.js
提笔惊蚂蚁3 小时前
结构化(经典)软件开发方法: 需求分析阶段+设计阶段
后端·学习·需求分析
老猿讲编程3 小时前
Rust编写的贪吃蛇小游戏源代码解读
开发语言·后端·rust
黄小耶@3 小时前
python如何使用Rabbitmq
分布式·后端·python·rabbitmq
宅小海4 小时前
Scala-List列表
开发语言·后端·scala
蔚一5 小时前
Javaweb—Ajax与jQuery请求
前端·javascript·后端·ajax·jquery