Hive知识点

基本概念:

由Facebook开源,构建在Hadoop之上的数据仓库,数据计算是mapreduce,数据存储是HDFS

目的是构建面向分析的集成的数据环境,为企业提供决策支持

(面向分析的存储系统)

主要特征:

面向主题的,集成的,非易失的和时变的数据集合,用以支持管理决策

HIve与Hadoop的关系:

Hive需要构建在Hadoop基础上;

Hive中所有数据都存储在Hadoop分布式文件系统中;

对HQL查询语句的解释,优化,生成查询过程与由Hive合成,查询计划被转化的MapReduce任务的运行需要运行在Hadoop上

Hive的原理:

Hive是一种建立在Hadoop之上的数据仓库工具,可以使用HQL语句对数据进行分析与查询,而Hive的数据都存储在HDFS中,Hive在加载数据过程中不定时对数据进行任何修改

Hive特点:

支持索引,加快数据查询,不同的存储类型;

可以支持使用存储在Hadoop文件系统上的数据;

HQL语句最终转化为Map Reduce任务运行在Hadoop集群之上;

内质网用户自定义函数,将元数据保存在数据库上

YARN:

优点:高容错,高可用,并行安装,使用方便,版本统一更好的稳定性,更好的安全性

由MR1演化而来的资源管理系统,为上层提供统一的资源管理和调度,

在利用率,资源统一,管理与数据共享带来好处

将资源管理与作业调度两个功能分开,分别由Resource Manage与ApplicationMaster实现

相关推荐
苛子3 小时前
2026国产化iPaaS集成平台选型与替换实战指南
数据仓库·etl
源码之家9 小时前
计算机毕业设计:Python智慧交通大数据分析平台 Flask框架 requests爬虫 出行速度预测 拥堵预测(建议收藏)✅
大数据·hadoop·爬虫·python·数据分析·flask·课程设计
@insist12310 小时前
数据库系统工程师-分布式数据库与数据仓库核心考点及应用体系
数据库·数据仓库·分布式·软考·数据库系统工程师·软件水平考试
莫叫石榴姐14 小时前
本体论:企业智能化转型的核心引擎
大数据·数据仓库·人工智能·面试·职场和发展
武子康15 小时前
大数据-257 离线数仓 - 数据质量监控详解:从理论到Apache Griffin实践
大数据·hadoop·后端
孤影过客2 天前
驯服数据巨兽:Hadoop如何重塑大数据的黄金时代
大数据·hadoop·分布式
极光代码工作室2 天前
基于Hadoop的日志数据分析系统设计
大数据·hadoop·python·数据分析·数据可视化
tumeng07113 天前
HDFS的架构优势与基本操作
hadoop·hdfs·架构
蓝眸少年CY3 天前
Hive - 函数、压缩与优化
数据仓库·hive·hadoop
仗剑_走天涯3 天前
Hadoop 安装
大数据·hadoop·分布式