历史服务器

二、配置历史服务器

在spark-3.1.1-bin-hadoop2.7/conf/spark-defaults.conf添加以下配置,其中d:/log/spark为日志保存位置

spark.eventLog.enabled true

spark.eventLog.dir file:///d:/log/spark

spark.eventLog.compress true

spark.history.fs.logDirectory file:///d:/log/spark

使用命令启动历史服务器,可以看到启动的端口号,通过 http://localhost:端口号 访问历史服务器

Spark-class org.apache.spark.deploy.history.HistoryServer

在scala代码中的SparkSession添加以下配置

.config("spark.eventLog.enabled", value = true)

.config("spark.eventLog.dir", "file:///D:/log/spark")

.config("spark.history.fs.logDirectory", "file:///D:/log/spark")

相关推荐
Eternity......16 分钟前
如何在idea中写spark程序
大数据·spark
独行soc18 分钟前
2025年渗透测试面试题总结-某战队红队实习面经(附回答)(题目+回答)
linux·运维·服务器·学习·面试·职场和发展·渗透测试
lix的小鱼29 分钟前
在sheel中运行Spark
大数据·分布式·spark
Aaaa小嫒同学1 小时前
spark local模式
大数据·分布式·spark
猪猪果泡酒2 小时前
Spark,配置历史服务
大数据·分布式·spark
anqi272 小时前
在sheel中运行Spark
大数据·开发语言·分布式·后端·spark
乌恩大侠3 小时前
【东枫科技】代理销售 NVIDIA DGX Spark 您的桌上有一台 Grace Blackwell AI 超级计算机。
大数据·人工智能·科技·spark·nvidia
一颗星星辰4 小时前
网络安全专题 | 第十章 | 防火墙基础配置 | 安全策略
服务器·网络·web安全
原来是猿5 小时前
Linux下的好玩的命令
linux·运维·服务器
IT小饕餮5 小时前
华为私有协议Hybrid
运维·服务器·华为