Hive-基础介绍

简介

Apache Hive是一款数据仓库系统

功能

  1. 可以将存储在Hadoop(HDFS)中的数据映射为一张数据库表。
  2. 核心是将HQL语句转化为MapRece程序,然后提交到Hadoop执行。

组件

  1. 用户接口:CLI(shell命令行)、WebGUI、Thrift Server
  2. 元数据存储(Metastore):将表和HDFS文件的对应关系通常存储在mysql
  3. Hive Driver驱动程序(核心):语法解析、语法编译、优化器、执行器
  4. 执行引擎:MapReduce、Tez、Spark等

数据模型

Hive也有类似于关系型数据库的模型概念:

**Partitions:**分区,数据分区后存储在以分区字段命名的文件中。

**Buckets:**分桶,可以优化join查询和方便抽样查询

与Mysql区别

相关推荐
二十六画生的博客15 小时前
每个subtask都提交一份快照到hdfs,会把10个小的快照合并成一个大的吗?谁来合并?
大数据·hadoop·hdfs·flink
juniperhan15 小时前
Flink 系列第24篇:Flink SQL 集成维度表指南:存储选型、参数调优与实战避坑
大数据·数据仓库·sql·flink
隐于花海,等待花开15 小时前
41.ABS / POW / SQRT 函数深度解析
大数据·hive
千月落17 小时前
HDFS数据迁移
大数据·hadoop·hdfs
RestCloud1 天前
ETL数据质量保障:如何通过优化提升数据准确性?
数据仓库·etl·数据处理·数据传输·数据同步·数据集成平台
隐于花海,等待花开2 天前
40.RAND 函数深度解析
hive·hadoop
2501_927283582 天前
荣联汇智助力天津艺虹打造“软硬一体”智慧工厂,全流程自动化引领印刷包装行业数智变革
大数据·运维·数据仓库·人工智能·低代码·自动化
孤雪心殇2 天前
快速上手数仓基础知识
数据仓库·hive·spark
渣渣盟3 天前
数据仓库 vs 数据湖 vs 湖仓一体:架构演进与选型
数据仓库·架构
隐于花海,等待花开3 天前
39.ROUND / FLOOR / CEIL 函数深度解析
hive·hadoop