Hive-distribute by与group by,order by与sort by 的区别,cluster by

两个是完全不同的东西,group by的后续需要我们对数据进行聚合,distribute by只是把数据分到不同的reducer中去。

distribute by与group by 的区别

都是按key值划分数据 都使用reduce操作

唯一不同的是,distribute by只是单纯的分散数据,distribute by col -- 按照col列把数据分散到不同的reduce。而group by把相同key的数据聚集到一起,后续必须是聚合操作。

order by与sort by 的区别

order by是全局排序 sort by只是确保每个reduce上面输出的数据有序。如果只有一个reduce时,和order by作用一样。

cluster by

把有相同值的数据聚集到一起,并排序,效果等价于distribute by col sort by col.

即 cluster by col <==> distribute by col sort by col

转载链接

相关推荐
熟透的蜗牛32 分钟前
大数据技术-Hadoop(二)HDFS的介绍与使用
大数据·hadoop·hdfs
墨尔本、晴6 小时前
[Hive]七 Hive 内核
数据仓库·hive·hadoop
Swift社区9 小时前
ByConity BSP 解锁数据仓库新未来
数据仓库
m0_7482563412 小时前
大数据-258 离线数仓 - Griffin架构 配置安装 Livy 架构设计 解压配置 Hadoop Hive
大数据·hadoop·架构
BabyFish1315 小时前
hive中的四种排序类型
数据仓库·hive·hadoop·排序·order by·sorted
撕得失败的标签16 小时前
使用 Docker 搭建 Hadoop 集群
hadoop·docker·容器·debian·wsl
lucky_syq1 天前
Spark和Hive的联系
大数据·hive·spark
Azoner1 天前
hdfs balancer 指定节点做负载均衡
hadoop·hdfs·负载均衡
goTsHgo1 天前
Hive on Spark 离线数据仓库中拉链表全流程使用
数据仓库·hive·spark