2024-02-04(hive)

1.Hive中的分区表

可以选择字段作为表分区。

分区其实就是HDFS上的不同文件夹。

分区表可以极大的提高特定场景下Hive的操作性能。

2.分区语法

sql 复制代码
create table tablename(...) partitioned by (分区列 列类型, ...)
row format delimited fields terminated by '';

3.Hive中的分桶表

选择一个字段作为分桶字段

分桶表本质上是数据分开在不同的文件中

分区和分桶可以同时使用

4.为什么要用insert select的方式插入分桶表数据

需要insert select触发MapReduce进行hash取模计算,来基于分桶列的值,确定哪一条数据进入到哪一个桶文件中。

5.分桶表能带来什么性能提升?

在基于分桶列做操作的前提下:

单值过滤

JOIN

GROUP BY

相关推荐
wxchyy1 天前
手把手教你入门云计算(二):这些技术改变了世界,你也能轻松掌握
hadoop·阿里云·docker·云原生·华为云·云计算·运维开发
BD_Marathon1 天前
Hadoop组成
大数据·hadoop·分布式
邀星月为媒1 天前
正式迁移 Gitee:core-site-hive 与 core-hive-agent 后续更新只认这两个地址
hive·hadoop·gitee
BD_Marathon1 天前
Hadoop常用端口号
java·大数据·hadoop
fastjson_2 天前
Hive 复杂数据类型
数据仓库·hive·hadoop
爱吃面的猫2 天前
大数据Hadoop之——集群环境搭建(了解)
大数据·hadoop·flume
一路向北finish2 天前
《Hadoop 高可用集群与 OpenStack Mitaka 控制节点部署全流程实操排坑指南》
大数据·linux·运维·服务器·hadoop·openstack
insertYam2 天前
[hadoop高可用架构]
大数据·hadoop·架构
hopsky3 天前
《Hive性能调优实战》核心内容详细解读
数据仓库·hive·hadoop
-今昭-4 天前
Hadoop HDFS 高可用实战指南
运维·hadoop·hdfs·负载均衡