【spark--scala】--环境配置

文章目录

scala

官网下载二进制包

添加环境变量

bash 复制代码
#set scala
export SCALA_HOME=/usr/local/src/scala-2.11.8
export PATH=$PATH:$SCALA_HOME/bin

spark

官网下载二进制包

解压后

spark/conf

bash 复制代码
cp slaves.template slaves
cp spark-env.sh.template spark-env.sh



# slaves中写两个从节点ip

# spark-env.sh 中
export JAVA_HOME=/usr/local/src/java
export SPARK_MASTER_HOST=master01
export HADOOP_CONF_DIR=/usr/local/src/hadoop/etc/hadoop
相关推荐
Bode_20021 小时前
美的集团数智化创新‌
大数据·人工智能
瓶瓶持续学习中2 小时前
空间智能与物理AI:国内厂商如何与英伟达协同发展
大数据·人工智能·信息可视化·架构
阿乔外贸日记2 小时前
外贸风控|美国市场7大类欺诈模式解析与风控框架
大数据·人工智能·物联网·microsoft·智能手机
金融小师妹2 小时前
时间序列分析:历次联储利率调整与政策周期变化研究
大数据·人工智能·逻辑回归
Elastic 中国社区官方博客2 小时前
使用 OpenTelemetry 在 Elastic 中实现 Claude 平台的人工智能 agent 可观测性
大数据·运维·服务器·人工智能·elasticsearch·信息可视化·全文检索
GOWIN革文品牌咨询2 小时前
B2B圆桌内容化:问题链、记录与授权工作流
大数据·架构
隔窗听雨眠2 小时前
从取数到行动:数据分析失效的链路拆解与闭环重建
大数据·数据挖掘·数据分析
网教盟人才服务平台2 小时前
PTP 标准化渗透能力落地,规范商用安全测试全流程
大数据·安全·web安全
金融小师妹3 小时前
多因子定价模型:联储决议临近,黄金+1.1%的宏观驱动与走势分析
大数据·逻辑回归·线性回归
演艺大赏3 小时前
Kyuubi + SparkSQL 查询时间戳少 8 小时解决:spark.sql.hive.convertMetastoreParquet 导致的显示偏差完整
大数据