大数据学习(32)-spark基础总结

&&大数据学习&&

🔥系列专栏: 👑哲学语录: 承认自己的无知,乃是开启智慧的大门

💖如果觉得博主的文章还不错的话,请点赞👍+收藏⭐️+留言📝支持一下博主哦🤞


Spark提供多种运行模式:

1.本地模式(单机)

本地模式就是以一个 独立的进程 ,通过其内部的 多个线程来模拟 整个Spark运行时环境

2.Standalone模式(集群)

Spark中的各个角色以 独立进程 的形式存在,并组成Spark集群环境

3.Hadoop YARN模式(集群)

Spark中的各个角色 运行在 YARN 的容器内部 ,并组成Spark集群环境

4.Kubernetes模式(容器集群)

Spark中的各个角色 运行在 Kubernetes 的容器内部 ,并组成Spark集群环境

5.云服务模式(运行在云平台上)

spark运行模式图解:

Spark中由4类角色组成整个Spark的运行时环境

. Master角色,管理整个集群的资源
类比与YARN的ResouceManager
. Worker角色,管理单个服务器的资源
类比于YARN的NodeManager
.Driver角色,管理单个Spark任务在运行的时候的工作
类比YARN日的ApplicationMaster
Executor角色,单个任务运行的时候的一堆工作者,干活的.类比于YARN的容器内运行的TASK

从2个层面划分:资源管理层面:

。管理者: Spark是Master角色,YARN是ResourceManager。工作中: Spark是Worker角色,YARN是NodeManager从任务执行层面:
·某任务管理者: Spark是Driver角色,YARN是ApplicationMaster
·某任务执行者: Spark是Executor角色,YARN是容器中运行的具体工作进程。

Spark On Yarn的本质?

Master角色由YARN的ResourceManager担任.Worker角色由YARN的NodeManager担任.

Driver角色运行在YARN容器内或提交任务的客户端进程中真正干活的Executor运行在YARN提供的容器内。

重点:

Spark On Yarn两种模式:
Client模式和Cluster模式最最本质的区别是:Driver程序运行在哪里。
Client模式:学习测试时使用,生产不推荐(要用也可以,性能略低,稳定性略低)

1.Driver运行在Client上,和集群的通信成本高。
2.Driver输出结果会在客户端显示
Cluster模式:生产环境中使用该模式
1.Driver程序在YARN集群中,和集群的通信成本低

2.Driver输出结果不能在客户端显示
3.该模式下Driver运行ApplicattionMaster这个节点上,由Yarn管理,如果出现问题,yarn会重启ApplicattionMaster(Driver)

所以在spark on yarn中提高资源利用率,在已有YARN的场景下让Spark收到YARN的调度可以更好的管控资源提高利用率并方便管理。

相关推荐
2303_Alpha1 小时前
SpringBoot
笔记·学习
萘柰奈1 小时前
Unity学习----【进阶】TextMeshPro学习(三)--进阶知识点(TMP基础设置,材质球相关,两个辅助工具类)
学习·unity
沐矢羽2 小时前
Tomcat PUT方法任意写文件漏洞学习
学习·tomcat
好奇龙猫2 小时前
日语学习-日语知识点小记-进阶-JLPT-N1阶段蓝宝书,共120语法(10):91-100语法+考え方13
学习
计算机毕业设计木哥2 小时前
计算机毕设选题推荐:基于Java+SpringBoot物品租赁管理系统【源码+文档+调试】
java·vue.js·spring boot·mysql·spark·毕业设计·课程设计
T06205142 小时前
工具变量-5G试点城市DID数据(2014-2025年
大数据
向阳花开_miemie2 小时前
Android音频学习(十八)——混音流程
学习·音视频
工大一只猿2 小时前
51单片机学习
嵌入式硬件·学习·51单片机
向往鹰的翱翔2 小时前
BKY莱德因:5大黑科技逆转时光
大数据·人工智能·科技·生活·健康医疗
c0d1ng3 小时前
量子计算学习(第十四周周报)
学习·量子计算