课堂总结。

Apache Hive 是 Hadoop 上的 SQL 引擎,Spark SQL 编译时可以包含 Hive 支持,也可以不包含。包含 Hive 支持的 Spark SQL 可以支持 Hive 表访问、UDF (用户自定义函数)、Hive 查询语言(HQL)等。需要强调的一点是,如果要在 Spark SQL 中包含Hive 的库,并不需要事先安装 Hive。一般来说,最好还是在编译 Spark SQL 时引入 Hive支持,这样就可以使用这些特性了。

使用方式分为内嵌Hive、外部Hive、Spark-SQL CLI、Spark beeline 以及代码操作。

1)内嵌的 HIVE

2)外部的 HIVE

在虚拟机中下载以下配置文件:

如果想在spark-shell中连接外部已经部署好的 Hive,需要通过以下几个步骤:

➢ Spark 要接管 Hive 需要把 hive-site.xml 拷贝到 conf/目录下,并将url中的localhost改为node01

相关推荐
kaixin_啊啊1 天前
【零基础学AI】第 13 章——NumPy 和向量
人工智能·numpy
郝学胜-神的一滴5 天前
NumPy深度解析|Python数值计算的基石,告别低效for循环
开发语言·人工智能·python·程序人生·numpy·量化投资
大鹏的NLP博客5 天前
目标检测中的 AP 计算:单调包络与 NumPy 双重翻转
目标检测·numpy·ap
chde2Wang7 天前
numpy学习3
学习·numpy
MoRanzhi12037 天前
第 9 篇 · 数值计算与图像处理:NumPy、SciPy、Pillow
图像处理·python·数值计算·numpy·pillow·信号处理·scipy
chde2Wang7 天前
numpy学习2
学习·numpy
databook7 天前
从循环到向量化:NumPy提速的7个关键思维
python·数据分析·numpy
53488736abcdefg9 天前
Anaconda+Jupyter+NumPy
jupyter·numpy·anaconda
chde2Wang11 天前
numpy学习
numpy·大数据比赛
TechEdu20260611 天前
[人工智能]Python11:NumPy 源代码、软件架构与软件流程
人工智能·numpy