十、Scala应用实践(下)

首先,拍快照.确保Hadoop和zookeeper已经启动成功!!!!

start-all.sh --启动Hadoop

zkServer.sh start --启动zookeeper

Jps查看,若出现

在启动zookeeper后,输入jps,若没有出现Quorum Peer Main,而是出现already running

则需要先停止zookeeper启动,再重新启动

先zkServer.sh stop

再zkServer.sh start

开始实验:

1.切换到install目录

cd /opt/install

2.上传spark安装包

3.解压文件

tar -zxf spark-3.1.2-bin-hadoop3.2.tgz -C ../soft

4.切换到soft目录,改文件名

cd /opt/soft

mv spark-3.1.2-bin-hadoop3.2 /spark312

  1. 切换当前工作目录到/spark312

把/spark312这个文件夹移动到/opt/soft/目录下

6.进入当前目录下spark312文件夹里的conf子目录

cd ./spark312/conf

7.复制spark-env.sh.template模板文件,生成实际生效的spark-env.sh配置文件(用于设置 Spark 环境变量)。

cp spark-env.sh.template spark-env.sh

8.复制workers.template模板文件,生成workers配置文件

cp workers.template workers

9. 开系统全局环境变量配置文件

vi /etc/profile

添加以下内容:

让刚修改的/etc/profile 配置立即生效(无需重启终端)

source /etc/profile

10. 打开当前目录下的spark-env.sh

vi ./spark-env.sh

添加以下内容:

export SCALA_HOME=/opt/soft/scala212

export JAVA_HOME=/opt/soft/jdk180

export SPARK_HOME=/opt/soft/spark312

export HADOOP_INSTALL=/opt/soft/hadoop313

export HADOOP_CONF_DIR=$HADOOP_INSTALL/etc/hadoop

export SPARK_MASTER_IP=192.168.119.142

export SPARK_DRIVER_MEMORY=2G

export SPARK_EXECUTOR_MEMORY=2G

export SPARK_LOCAL_DIRS=/opt/soft/spark312

再次执行source /etc/profile

11. 测试

推出目录

cd ..

进去bin 目录

cd bin/

进行测试

./spark-shell

出现以下内容则成功

相关推荐
灯澜忆梦17 小时前
GO_并发编程---定时器
开发语言·后端·golang
-银雾鸢尾-18 小时前
C#中的StringBuilder相关方法
开发语言·c#
-银雾鸢尾-18 小时前
C#中结构体与类的区别;抽象类与接口的区别
开发语言·c#
大模型码小白19 小时前
【Python零基础教程】继承、多态与魔法函数:面向对象编程三大核心特性详解
java·大数据·开发语言·人工智能·python·ai编程
HLC++21 小时前
Linux的进程间通信
android·linux·服务器
段一凡-华北理工大学21 小时前
向量数据库实战:选型、调优与落地~系列文章12:文本分块策略实战:chunk_size 怎么选?重叠多少?
开发语言·数据库·后端·oracle·rust·工业智能体·高炉智能化
Ljwuhe21 小时前
C++——多态
开发语言·c++
心平气和量大福大1 天前
C#-WPF-Window主窗体
开发语言·c#·wpf
华清远见IT开放实验室1 天前
实验室建设案例 | 石家庄科技信息职业学院嵌入式实验室——从底层硬件到系统应用,一所应用型高校的嵌入式人才培养这样落地
linux·arm开发·stm32·嵌入式硬件·高校·实验室建设
从零开始的代码生活_1 天前
C++ 继承详解:访问控制、对象模型、菱形继承与设计取舍
开发语言·c++·后端·学习·算法