Hive查询计划

1、EXTENDED 语句会在执行计划中产生关于算子(Operator)的额外信息,这些信息都是典型的物理信息,如文件名称等

sql 复制代码
EXPLAIN [EXTENDED|CBO|AST|DEPENDENCY|AUTHORIZATION|LOCKS|VECTORIZATION|ANALYZE] query

最外层开始,包含两个大的部分:

****stage dependencies:****各个stage之间的依赖性

****stage plan:****各个stage的执行计划

(1)TableScan:表扫描操作,map端第一个操作肯定是加载表,所以就是表扫描操作,常见的属性:

alias:表名称;

Statistics:表统计信息,包含表中数据条数,数据大小等;

(2)Select Operator:选取操作,常见的属性 :

expressions:需要的字段名称及字段类型;

outputColumnNames:输出的列名称;

Statistics:表统计信息,包含表中数据条数,数据大小等;

(3)Group By Operator:分组聚合操作,常见的属性:

aggregations:显示聚合函数信息;

mode:聚合模式,值有;

hash:随机聚合,就是hash partition;

partial:局部聚合;

final:最终聚合;

keys:分组的字段,如果没有分组,则没有此字段;

outputColumnNames:聚合之后输出列名;

Statistics:表统计信息,包含分组聚合之后的数据条数,数据大小等。

(4)Reduce Output Operator:输出到reduce操作,常见属性:

sort order:值为空 不排序;值为 + 正序排序,值为 - 倒序排序;

值为 ± 排序的列为两列,第一列为正序,第二列为倒序.

(5)Filter Operator:过滤操作,常见的属性:

predicate:过滤条件,如sql语句中的where id>=1,则此处显示(id >= 1);

(6)Map Join Operator:join 操作,常见的属性:

condition map:join方式 ,如Inner Join 0 to 1 Left Outer Join0 to 2 keys: join 的条件字段;

outputColumnNames:join 完成之后输出的字段;

Statistics:join 完成之后生成的数据条数,大小等。

(7)File Output Operator:文件输出操作,常见的属性:

compressed:是否压缩;

table:表的信息,包含输入输出文件格式化方式,序列化方式等。

(8)Fetch Operator 客户端获取数据操作,常见的属性:

limit,值为 -1 表示不限制条数,其他值为限制的条数。

2、 explain dependency的用法

explain dependency用于描述一段SQL需要的数据来源,输出是一个json格式的数据,里面包含以下两个部分的内容:

input_partitions:描述一段SQL依赖的数据来源表分区,里面存储的是分区名的列表,如果整段SQL包含的所有表都是非分区表,则显示为空。

input_tables:描述一段SQL依赖的数据来源表,里面存储的是Hive表名的列表。

3、 explain authorization 的用法

通过explain authorization可以知道当前SQL访问的数据来源(INPUTS)和数据输出(OUTPUTS),以及当前Hive的访问用户 (CURRENT_USER)和操作(OPERATION)。

相关推荐
大筒木老辈子1 小时前
Linux笔记---协议定制与序列化/反序列化
网络·笔记
草莓熊Lotso1 小时前
【C++】递归与迭代:两种编程范式的对比与实践
c语言·开发语言·c++·经验分享·笔记·其他
我爱挣钱我也要早睡!4 小时前
Java 复习笔记
java·开发语言·笔记
汇能感知9 小时前
摄像头模块在运动相机中的特殊应用
经验分享·笔记·科技
阿巴Jun9 小时前
【数学】线性代数知识点总结
笔记·线性代数·矩阵
茯苓gao9 小时前
STM32G4 速度环开环,电流环闭环 IF模式建模
笔记·stm32·单片机·嵌入式硬件·学习
是誰萆微了承諾10 小时前
【golang学习笔记 gin 】1.2 redis 的使用
笔记·学习·golang
DKPT10 小时前
Java内存区域与内存溢出
java·开发语言·jvm·笔记·学习
ST.J11 小时前
前端笔记2025
前端·javascript·css·vue.js·笔记
Suckerbin11 小时前
LAMPSecurity: CTF5靶场渗透
笔记·安全·web安全·网络安全