Linux单机部署spark

Linux单机部署spark

前提:java17环境

官网下载:

Apache 下载镜像

下载成功后通过终端上传到服务器并解压:

tar -zxvf spark-3.5.7-bin-hadoop3.tgz

添加到环境变量:

vi /etc/profile

添加如下内容:

#spark

#这里路径给位你的spark的实际路径

export SPARK_HOME=/root/spark/spark-3.5.7-bin-hadoop3

export PATH=SPARK_HOME/bin:PATH

刷新环境变量:

source /etc/profile

检查环境变量是否配置成功:

spark-shell

出现以下,证明配置成功:

相关推荐
用户36105886261210 小时前
Spark 核心之 RDD 窄依赖与宽依赖详解
spark
用户36105886261217 小时前
Spark 核心之 Stage 和 Task 原理剖析
spark
java1234_小锋18 小时前
【免费】基于Spark实时医疗健康数据监测与疾病预测系统(Java版本+可视化大屏+Kafka+SpringBoot+Vue3) 锋哥原创出品,必属精品
大数据·spark·kafka·实时医疗健康数据监测·实时疾病预测系统
腾讯云大数据20 小时前
腾讯云智能数据湖计算AI DLC发布会回顾:Spark+Ray一体化,面向Agent重构数据底座
人工智能·spark·腾讯云
用户3610588626121 天前
Spark 核心之 Application 和 Job 原理剖析
spark
阿里云大数据AI技术2 天前
EMR Serverless Spark AI Function 的双维降本实践
人工智能·sql·spark
java1234_小锋3 天前
【免费】基于Spark实时交通流量分析与拥堵预测系统(Java版本+可视化大屏+Kafka+SpringBoot+Vue3) 锋哥原创出品,必属精品
java·大数据·spark·kafka·实时交通流量分析与拥堵预测
用户3610588626123 天前
Spark 核心之 ClusterManager 原理剖析
spark
starzy19903 天前
Spark 核心之 Driver 原理剖析
大数据·ajax·spark