【spark--scala】--环境配置

文章目录

scala

官网下载二进制包

添加环境变量

bash 复制代码
#set scala
export SCALA_HOME=/usr/local/src/scala-2.11.8
export PATH=$PATH:$SCALA_HOME/bin

spark

官网下载二进制包

解压后

spark/conf

bash 复制代码
cp slaves.template slaves
cp spark-env.sh.template spark-env.sh



# slaves中写两个从节点ip

# spark-env.sh 中
export JAVA_HOME=/usr/local/src/java
export SPARK_MASTER_HOST=master01
export HADOOP_CONF_DIR=/usr/local/src/hadoop/etc/hadoop
相关推荐
大大大大晴天2 小时前
Hudi技术内幕:RecordPayload到RecordMerger
大数据
SelectDB17 小时前
秒级弹性、最高降本 70%:SelectDB Serverless 如何重塑云数仓资源效率
大数据·后端·云原生
WhoAmI17 小时前
MapReduce框架原理解析一:InputFormat
大数据·hadoop
WhoAmI17 小时前
MapReduce框架原理解析三:OutputFormat
大数据·hadoop
WhoAmI18 小时前
MapReduce框架原理解析二:Shuffle
大数据·hadoop
大大大大晴天2 天前
Hudi技术内幕:Key Generation原理与实践
大数据
得物技术5 天前
从埋点需求到规则资产:Hermes Agent 重构得物数仓工作流
大数据·llm·ai编程
久美子5 天前
AI驱动数仓建设的Harness工程实践——本体建模、知识分层与上下文工程
大数据
大树886 天前
金刚石散热越强,管路越先见顶
大数据·运维·服务器·人工智能·ai
大志哥1236 天前
ES和Logstash日志链路系统上线后遭遇切片爆炸(解决)
大数据·elasticsearch