spark-standalone

一、定义:Standalone 模式是一种独立的集群部署模式,自带完整服务,可单独部署到一个集群中,无需依赖任何其他资源管理系统。

二、配置步骤

1.和前面一样拉到hadoop101的/opt/module这个目录里面。

2.压缩

3.重命名为spark-standalone

4.配置环境变量

5.同步环境变量

6.进入/opt/module/spark-standalone/conf这个目录,修改workers.template文件,将后缀名去掉,然后点进去,添加下列内容

7.修改spark-env.sh.template文件,将后缀名去掉,然后点进去,添加下列内容

8.同步设置完毕的Spark目录到其他节点。使用我们之前封装的命令:

xsync /opt/module/spark-standalone/

9.启动SPARK集群。进入到hadoop100机器,切换目录到/opt/module/spark-standalone/sbin下,运行命令 ./start-all.sh。(注意,这里不要省略./)

10.验收效果。通过jps命令去每台机器上查看运行的进程。请观察是否在hadoop101上看到了master,worker在hadoop103,hadoop102上看到了worker。

11.查看启动效果。打开浏览器,输入hadoop100:8080。看到效果如下:

相关推荐
weixin_贾12 分钟前
不确定性分析在LEAP能源-环境系统建模中的整合与应用
大数据·新能源·储能·碳中和·温室气体·leap模型
qq_4639448629 分钟前
【Spark征服之路-2.3-Spark运行架构】
大数据·架构·spark
长河41 分钟前
Flink 重启后事件被重复消费的原因与解决方案
大数据·flink
TDengine (老段)41 分钟前
TDengine 替换 Hadoop,彻底解决数据丢失问题 !
大数据·数据库·hadoop·物联网·时序数据库·tdengine·涛思数据
π大星星️1 小时前
Git分布式版本控制工具
分布式·git
代码的余温1 小时前
分布式Session处理的五大主流方案解析
分布式·session
代码丰1 小时前
令牌桶 滑动窗口->限流 分布式信号量->限并发的原理 lua脚本分析介绍
java·分布式·lua
初次见面我叫泰隆1 小时前
Redis——1、服务端高并发分布式结构演进之路
数据库·redis·分布式
tomorrow.hello1 小时前
集群与分布式与微服务
分布式·微服务·架构
计算机毕设定制辅导-无忧学长1 小时前
Kafka 快速上手:安装部署与 HelloWorld 实践(二)
分布式·kafka