如何搭建spark yarn模式的集群

搭建 Spark on YARN 模式的集群需要完成 Hadoop 和 Spark 的安装与配置,并确保它们能够协同工作。以下是详细的搭建步骤和代码示例:

1 系统准备

  • 操作系统:推荐使用 CentOS 或 Ubuntu。

  • Java 环境:安装 JDK 1.8 或更高版本

    java 复制代码
    sudo apt update
    sudo apt install openjdk-8-jdk

    Scala 环境(可选,视需求而定):

java 复制代码
sudo apt install scala

2 安装 Hadoop

  • 下载并解压 Hadoop

    java 复制代码
    wget https://downloads.apache.org/hadoop/common/hadoop-3.3.4/hadoop-3.3.4.tar.gz
    tar -xzvf hadoop-3.3.4.tar.gz -C /opt/
    mv /opt/hadoop-3.3.4 /opt/hadoop

    配置 Hadoop

  • hadoop-env.sh:设置 Java 环境变量

java 复制代码
vim /opt/hadoop/etc/hadoop/hadoop-env.sh
export JAVA_HOME=/usr/lib/jvm/java-8-openjdk-amd64

core-site.xml:配置 HDFS
*

java 复制代码
<configuration>
  <property>
    <name>fs.defaultFS</name>
    <value>hdfs://master:9000</value>
  </property>
</configuration>

hdfs-site.xml:配置 HDFS 的存储位置
*

java 复制代码
<configuration>
  <property>
    <name>dfs.replication</name>
    <value>3</value>
  </property>
</configuration>

yarn-site.xml:配置 YARN
*

java 复制代码
<configuration>
  <property>
    <name>yarn.nodemanager.pmem-check-enabled</name>
    <value>false</value>
  </property>
  <property>
    <name>yarn.nodemanager.vmem-check-enabled</name>
    <value>false</value>
  </property>
  <property>
    <name>yarn.resourcemanager.hostname</name>
    <value>master</value>
  </property>
</configuration>

slaves:添加从节点主机名
*

java 复制代码
vim /opt/hadoop/etc/hadoop/slaves
slave1
slave2

启动 Hadoop

java 复制代码
/opt/hadoop/bin/hdfs namenode -format
/opt/hadoop/sbin/start-dfs.sh
/opt/hadoop/sbin/start-yarn.sh

3. 安装 Spark

  • 下载并解压 Spark

java 复制代码
wget https://downloads.apache.org/spark/spark-3.2.4/spark-3.2.4-bin-hadoop3.2.tgz
tar -xzvf spark-3.2.4-bin-hadoop3.2.tgz -C /opt/
mv /opt/spark-3.2.4-bin-hadoop3.2 /opt/spark

配置 Spark

  • spark-env.sh:设置环境变量

    java 复制代码
    cp /opt/spark/conf/spark-env.sh.template /opt/spark/conf/spark-env.sh
    vim /opt/spark/conf/spark-env.sh
    export JAVA_HOME=/usr/lib/jvm/java-8-openjdk-amd64
    export HADOOP_CONF_DIR=/opt/hadoop/etc/hadoop
    export YARN_CONF_DIR=/opt/hadoop/etc/hadoop

    spark-defaults.conf:启用事件日志

java 复制代码
cp /opt/spark/conf/spark-defaults.conf.template /opt/spark/conf/spark-defaults.conf
vim /opt/spark/conf/spark-defaults.conf
spark.eventLog.enabled true
spark.eventLog.dir hdfs://master:9000/spark/eventLogs
spark.yarn.historyServer.address master:18080

slaves:添加从节点主机名
*

java 复制代码
cp /opt/spark/conf/slaves.template /opt/spark/conf/slaves
vim /opt/spark/conf/slaves
slave1
slave2

分发配置文件: 将主节点的 Spark 配置文件分发到所有从节点。
*

java 复制代码
scp -r /opt/spark/conf/spark-env.sh root@slave1:/opt/spark/conf/
scp -r /opt/spark/conf/spark-env.sh root@slave2:/opt/spark/conf/

启动 Spark

  • 在主节点启动 Spark Shell。

java 复制代码
spark-shell --master yarn --deploy-mode client

测试集群

  • 提交一个示例作业

java 复制代码
spark-submit --master yarn --deploy-mode cluster examples/src/main/python/pi.py 1000

验证集群

  • 访问 YARN 的 Web UI 页面(http://master:8088),查看应用的运行情况。
相关推荐
K_i1342 分钟前
GitOps实战:Helm一键部署ArgoCD
大数据·elasticsearch·搜索引擎
三口吃掉你17 分钟前
Git分布式版本控制工具
分布式·git
yunmi_20 分钟前
分布式文件存储系统FastDFS(入门)
java·分布式·maven·fastdfs
189228048612 小时前
NX482NX486美光固态闪存NX507NX508
大数据·网络·数据库·人工智能·性能优化
数据与人工智能律师3 小时前
数字人民币钱包抉择:匿名自由与实名安全的法律风险评估
大数据·人工智能·python·云计算·区块链
DashingGuy4 小时前
Spark的Broadcast Join以及其它的Join策略
大数据·spark
海梨花7 小时前
【从零开始学习RabbitMQ】
分布式·学习·rabbitmq
失散1310 小时前
分布式专题——26 BIO、NIO编程与直接内存、零拷贝深入辨析
java·分布式·rpc·架构·nio·零拷贝
计算机编程小央姐10 小时前
大数据工程师认证项目:汽车之家数据分析系统,Hadoop分布式存储+Spark计算引擎
大数据·hadoop·分布式·数据分析·spark·汽车·课程设计
武子康10 小时前
大数据-116 - Flink Sink 使用指南:类型、容错语义与应用场景 多种输出方式与落地实践
大数据·后端·flink