如何搭建spark yarn 模式的集群集群。

以下是搭建Spark YARN模式集群的一般步骤:

准备工作

  • 确保集群中各节点安装了Java,并配置好 JAVA_HOME 环境变量。

  • 各节点间能通过SSH免密登录。

  • 安装Hadoop集群,并确保HDFS和YARN服务正常运行。

下载与安装Spark

  • 在官网下载适合你系统的Spark版本,将下载的压缩包上传到集群中指定节点。

  • 解压压缩包到指定目录,如 /opt/spark ,并配置 SPARK_HOME 环境变量,将 $SPARK_HOME/bin 添加到 PATH 环境变量。

配置Spark

  • 进入 $SPARK_HOME/conf 目录,复制 spark-env.sh.template 为 spark-env.sh ,编辑该文件,添加以下内容:

bash

export JAVA_HOME=/usr/lib/jvm/java-8-openjdk-amd64

export HADOOP_CONF_DIR=/etc/hadoop/conf

export SPARK_MASTER_IP=master节点IP

export SPARK_LOCAL_DIRS=/data/spark/local

export SPARK_DRIVER_MEMORY=2g

export SPARK_EXECUTOR_MEMORY=2g

  • 复制 slaves.template 为 slaves ,在 slaves 文件中列出所有Worker节点的主机名或IP地址,每行一个。

启动集群

  • 在Master节点上,执行 $SPARK_HOME/sbin/start-all.sh 启动Spark集群。

  • 可以通过访问 http://Master节点IP:8080 查看Spark Master的Web界面,确认集群是否正常启动。

提交任务

  • 编写Spark应用程序,将其打包成JAR文件。

  • 使用 spark-submit 命令提交任务到YARN集群,例如:

bash

spark-submit \

--class com.example.MySparkApp \

--master yarn \

--deploy-mode cluster \

/path/to/myapp.jar

以上是基本步骤,实际搭建中需根据具体环境和需求调整配置。

相关推荐
开开心心_Every1 小时前
快速隐藏程序工具自定义快捷键一键切换
java·开发语言·前端·spring·智能手机·word·intellij-idea
chenbingjie_c1 小时前
C++ 多态完全指南:从虚函数重写到虚函数表原理
开发语言·c++
吴卫斌1 小时前
定投ETF实战指南(四):行业/主题ETF——定投的“进攻端“
开发语言·python·股票·量化
超级架构师2 小时前
PRAXO-CORE 2.5.0:用 conformance 和显式边界构建 Go Agent 框架
开发语言·人工智能·后端·golang·ai编程·智能体框架·praxo-core
叼烟扛炮3 小时前
Linux 学习笔记(四十三):网络编程进阶——自定义协议解决 TCP 粘包与守护进程
linux·开发语言·网络·笔记·tcp/ip
LMT流氓兔4 小时前
第五单元——第十六课:给书店助手加上网页界面
java·开发语言·jvm·人工智能·oracle·langchain·1024程序员节
专注仿真4 小时前
梯度提升类(XFBoost)算法详解与代码实例
开发语言·人工智能·python·算法·大模型训练·控制算法
外收内放4 小时前
Python基础语法练习题(75)
开发语言·python·学习
starzy19905 小时前
Scala循环与判断:一切皆表达式的控制流
开发语言·人工智能·scala
starzy19905 小时前
Scala类和对象:从构造器到样例类的完整指南
开发语言·后端·scala