如何搭建spark yarn 模式的集群集群。

以下是搭建Spark YARN模式集群的一般步骤:

准备工作

  • 确保集群中各节点安装了Java,并配置好 JAVA_HOME 环境变量。

  • 各节点间能通过SSH免密登录。

  • 安装Hadoop集群,并确保HDFS和YARN服务正常运行。

下载与安装Spark

  • 在官网下载适合你系统的Spark版本,将下载的压缩包上传到集群中指定节点。

  • 解压压缩包到指定目录,如 /opt/spark ,并配置 SPARK_HOME 环境变量,将 $SPARK_HOME/bin 添加到 PATH 环境变量。

配置Spark

  • 进入 $SPARK_HOME/conf 目录,复制 spark-env.sh.template 为 spark-env.sh ,编辑该文件,添加以下内容:

bash

export JAVA_HOME=/usr/lib/jvm/java-8-openjdk-amd64

export HADOOP_CONF_DIR=/etc/hadoop/conf

export SPARK_MASTER_IP=master节点IP

export SPARK_LOCAL_DIRS=/data/spark/local

export SPARK_DRIVER_MEMORY=2g

export SPARK_EXECUTOR_MEMORY=2g

  • 复制 slaves.template 为 slaves ,在 slaves 文件中列出所有Worker节点的主机名或IP地址,每行一个。

启动集群

  • 在Master节点上,执行 $SPARK_HOME/sbin/start-all.sh 启动Spark集群。

  • 可以通过访问 http://Master节点IP:8080 查看Spark Master的Web界面,确认集群是否正常启动。

提交任务

  • 编写Spark应用程序,将其打包成JAR文件。

  • 使用 spark-submit 命令提交任务到YARN集群,例如:

bash

spark-submit \

--class com.example.MySparkApp \

--master yarn \

--deploy-mode cluster \

/path/to/myapp.jar

以上是基本步骤,实际搭建中需根据具体环境和需求调整配置。

相关推荐
qq_25183645710 小时前
springboot vue3 开发实现 拼豆管理系统
java·开发语言·ai编程
郑州光合科技余经理11 小时前
同城外卖小程序开发:下单成功后,后台导出能不能对上用户端状态
开发语言·前端·git·后端·uni-app·php·ai编程
知识分享小能手11 小时前
C++ 学习教程,从入门到精通,C++ 入门知识 — 完整知识点(1)
开发语言·c++·学习
+VX:Fegn089512 小时前
计算机毕业设计|基于springboot + vue旅游管理系统(源码+数据库+文档)
java·开发语言·vue.js·spring boot·课程设计
阿里嘎多学长12 小时前
2026-09-20 GitHub 热点项目精选
开发语言·程序员·github·代码托管
weixin_3077791314 小时前
C++代码实现MATLAB中的ode23tb函数功能
开发语言·c++·算法·matlab
2601_9669496514 小时前
为什么量化回测中 for 循环比 DataFrame 慢三个数量级?从向量化原理讲起
开发语言·python·pandas·股票数据·quantdash
边境悍匪16 小时前
蜗牛学苑 Java 智能体学习 Day45|Knife4j+SpringBoot3、书城项目整合 MyBatis 思维导图复盘
java·开发语言·vue.js·学习·spring
我的xiaodoujiao16 小时前
Django 基础知识详细图文教程 9-Django 模板引擎 2
开发语言·数据库·后端·django
菜鸟~noob23316 小时前
【太空电子战】从CCS到Meadowlands:反通信系统的二十年演进史【含matlab代码】
开发语言·matlab