Linux单机部署spark

Linux单机部署spark

前提:java17环境

官网下载:

Apache 下载镜像

下载成功后通过终端上传到服务器并解压:

tar -zxvf spark-3.5.7-bin-hadoop3.tgz

添加到环境变量:

vi /etc/profile

添加如下内容:

#spark

#这里路径给位你的spark的实际路径

export SPARK_HOME=/root/spark/spark-3.5.7-bin-hadoop3

export PATH=SPARK_HOME/bin:PATH

刷新环境变量:

source /etc/profile

检查环境变量是否配置成功:

spark-shell

出现以下,证明配置成功:

相关推荐
starzy19901 天前
SparkStreaming 之配置参数详解
大数据·spark
starzy19901 天前
SparkStreaming 之 DStream 底层结构剖析
大数据·spark
阿里云大数据AI技术2 天前
从 Common Crawl 到可训练语料:用 EMR Serverless Daft 构建清洗、模型标注与向量化管线
人工智能·spark
凉凉的知识库2 天前
一文讲清 Spark 集群队列:YARN 多租户、容量隔离与资源共享
大数据·spark·yarn
markvivv2 天前
【译】适合在RTX 5090、DGX Spark或类似机器上可运行的最佳新模型是什么?
大数据·人工智能·spark
FYKJ_20102 天前
django学习成绩预警系统10905
java·javascript·spring boot·python·spark·django·php
逸Y 仙X2 天前
Spark SQL
java·大数据·sql·spark
starzy19902 天前
SparkStreaming 之接收数据原理剖析
大数据·spark
用户3610588626123 天前
SparkSQL 之 Hive On Spark 原理分析
大数据·spark
for_ever_love__3 天前
PySpark学习: PySpark数据计算
python·学习·spark