Spark和Hive的区别

1 、 Hive
Hive 是基于 Hadoop 的数据仓库工具,同时又是查询引擎, Spark SQL 只是取代的 Hive 的查询引擎这一部分,企业可以使用Hive+Spark SQL 进行开发。
Hive 的主要工作如下:
把HQL 翻译长 map-reduce 的代码,并且有可能产生很多 mapreduce 的 job
把生产的Mapreduce 代码及相关资源打包成 jar 并发布到 Hadoop 的集群当中并进行运行
Hive默认情况下用 derby 存储元数据,所以在生产环境下一般会采用多用户的数据库进行元数据的存储,并可以读写分离和备份,一般使用主节点写,从节点读,一般使用MySQL 。

2 、 Spark
Spark SQL处理一切存储介质和各种格式的数据 ( 可以扩展 sparksql 来读取更多类型的数据 ) ;
Spark SQL把数据仓库的计算速度推向了新的高度( Tungsten 成熟之后会更厉害);
Spark SQL推出的 Dataframe 可以让数据仓库直接使用机器学习,图计算等复杂算法;
Hive+Spark SQL+DataFrame 使用:
Hive:负责廉价的数据仓库存储
Spark Sql:负责高速的计算
DataFrame:负责复杂的数据挖掘

3 、 Hive on Spark 与 Spark Sql 的区别
Hive on Spark大体与 Spark SQL 结构类似,只是 SQL 解析器不同,但是计算引擎都是 Spark 。

4 、 Hive on Mapreduce 和 Spark SQL 使用场景
Hive on Mapreduce 场景
Hive 的出现可以让那些精通 SQL 技能、但是不熟悉 MapReduce 、编程能力较弱与不擅长 Java 语言的用户能够在HDFS 大规模数据集上很方便地利用 SQL 语言查询、汇总、分析数据,毕竟精通 SQL 语言的人要比精通Java 语言的多得多。 Hive 适合处理离线非实时数据 。
Spark SQL 场景
Spark 既可以运行本地 local 模式,也可以以 Standalone 、 cluster 等多种模式运行在 Yarn 、 Mesos 上,还可以运行在云端例如EC2 。此外, Spark 的数据来源非常广泛,可以处理来自 HDFS 、 HBase 、Hive、 Cassandra 、 Tachyon 上的各种类型的数据。
实时性要求或者速度要求较高的场所 。

5 、 Hive on Mapreduce 和 Spark SQL 性能对比
Spark SQL 和 Hive on Spark 时间差不多,但都比 Hive on mapreduce 快很多,官方数据认为 Spark 会被传统mapreduce快 10-100 倍。

相关推荐
AI行业应用研究8 分钟前
会务信息载体的演进:纸质、PDF 与结构化数据源的分发成本与版本一致性
大数据·人工智能·安全·小程序·架构·pdf
yumgpkpm17 分钟前
CDP 7.3.1(Cloudera Runtime 7.3.1)VS Acceldata ODP 3.3.6.4 核心引擎详细版本对比
大数据·hive·hadoop·postgresql·zookeeper·spark·hbase
starzy199024 分钟前
Flink SlotManager启动流程源码深度剖析:从ResourceManager到Slot分配的完整链路
java·大数据·flink
4SAPI27 分钟前
AI API Gateway平台哪个好?从架构视角看企业多模型网关选型与实践
java·大数据·人工智能·gateway·php
计算机毕业编程指导师1 小时前
【计算机大数据毕业设计选题】基于Hadoop+Spark的人工智能社交媒体情绪数据分析系统源码 毕业设计 选题推荐 毕设选题 数据分析 机器学习
大数据·人工智能·hadoop·计算机·毕业设计·课程设计·社交媒体
容小智1 小时前
金融投研引入工作智能体(Agent):如何穿透概念核算真实商业价值?
大数据·人工智能·ai·金融·agent
就玩一会_1 小时前
Meta Muse 发布以来全梳理:从 Muse Spark 到个人 AI Agent
大数据·人工智能·spark
计算机毕业编程指导师1 小时前
【计算机毕设】基于Hadoop的人口统计特征与肥胖风险关联分析的数据分析系统源码 毕业设计 选题推荐 毕设选题 数据分析 机器学习
大数据·hadoop·python·计算机·数据分析·课程设计·肥胖风险
人工智能培训1 小时前
智能博弈背景下中国AI国防建设的战略价值
大数据·人工智能·算法·重构·生活
计算机毕业编程指导师2 小时前
【计算机毕业设计选题】基于Hadoop+Spark的乳腺癌数据分析与可视化系统源码 毕业设计 选题推荐 毕设选题 数据分析 机器学习
hadoop·python·spark·毕业设计·课程设计·乳腺癌·计算机毕设