spark-standalone

一、定义:Standalone 模式是一种独立的集群部署模式,自带完整服务,可单独部署到一个集群中,无需依赖任何其他资源管理系统。

二、配置步骤

1.和前面一样拉到hadoop101的/opt/module这个目录里面。

2.压缩

3.重命名为spark-standalone

4.配置环境变量

5.同步环境变量

6.进入/opt/module/spark-standalone/conf这个目录,修改workers.template文件,将后缀名去掉,然后点进去,添加下列内容

7.修改spark-env.sh.template文件,将后缀名去掉,然后点进去,添加下列内容

8.同步设置完毕的Spark目录到其他节点。使用我们之前封装的命令:

xsync /opt/module/spark-standalone/

9.启动SPARK集群。进入到hadoop100机器,切换目录到/opt/module/spark-standalone/sbin下,运行命令 ./start-all.sh。(注意,这里不要省略./)

10.验收效果。通过jps命令去每台机器上查看运行的进程。请观察是否在hadoop101上看到了master,worker在hadoop103,hadoop102上看到了worker。

11.查看启动效果。打开浏览器,输入hadoop100:8080。看到效果如下:

相关推荐
姬激薄24 分钟前
什么是SparkONYarn模式
spark
猪猪果泡酒24 分钟前
Spark,RDD中的行动算子
大数据·分布式·spark
2401_871290581 小时前
Spark处理过程-转换算子
大数据·分布式·spark
Betty_蹄蹄boo1 小时前
运行Spark程序-在Spark-shell——RDD
大数据·分布式·spark
李恒-聆机智能专精数采1 小时前
从零开始了解数据采集(二十七)——什么IIOT平台
大数据·人工智能·云计算·制造·数据采集·数据可视化
Caron_xcb1 小时前
大数据——解决Matplotlib 字体不足问题(Linux\mac\windows)
大数据·linux·matplotlib
堕落年代2 小时前
SpringBoot的单体和分布式的任务架构
spring boot·分布式·架构
TracyCoder1232 小时前
ElasticSearch深入解析(十一):分页
大数据·elasticsearch·搜索引擎
旋风小飞棍2 小时前
如何在sheel中运行spark
大数据·开发语言·scala
Eternity......2 小时前
spark MySQL数据库配置
数据库·mysql·spark