【spark--scala】--环境配置

文章目录

scala

官网下载二进制包

添加环境变量

bash 复制代码
#set scala
export SCALA_HOME=/usr/local/src/scala-2.11.8
export PATH=$PATH:$SCALA_HOME/bin

spark

官网下载二进制包

解压后

spark/conf

bash 复制代码
cp slaves.template slaves
cp spark-env.sh.template spark-env.sh



# slaves中写两个从节点ip

# spark-env.sh 中
export JAVA_HOME=/usr/local/src/java
export SPARK_MASTER_HOST=master01
export HADOOP_CONF_DIR=/usr/local/src/hadoop/etc/hadoop
相关推荐
IT毕设实战小研7 分钟前
基于大数据的桂林热门旅游数据分析与可视化
大数据·python·机器学习·数据分析·django·课程设计·旅游
大海变好AI18 分钟前
AI 工作流怎么搭建提升效率
大数据·人工智能·python
裕晟资质规划29 分钟前
首次办理军工保密资质:咨询服务选择要点与全流程交付清单(评估框架)
大数据·运维·服务器·网络·数据库·经验分享
whcyhhh1 小时前
头歌实践教学平台:数据科学与大数据技术导论(十)
大数据·开发语言·python
Data_Journal9 小时前
用于网页抓取的 Node-unblocker
大数据·开发语言·数据库·python·scrapy
涤生大数据9 小时前
一次“没有运行日志”的DolphinScheduler任务失败排查
大数据·数据库·人工智能·状态模式
专注API从业者9 小时前
告别人工盯品!借助 Open Claw 搭建电商商品自动化监控与数据分析系统(完整可运行源码)
大数据·运维·数据库·数据分析·自动化
多加点辣也没关系12 小时前
Git - 的安装与使用
大数据·git
醉颜凉12 小时前
Elasticsearch 相关性评分核心解密:tie_breaker 参数作用原理与实战调优全解析
大数据·elasticsearch·jenkins
芯小途202612 小时前
影视 AIGC 素材管理:改到第 108 版,为什么「块级去重」能把 TB 级素材压回百 GB(附估算脚本)
大数据·aigc