Spark JobHistory Server清理日志功能未生效,导致频繁挂掉

查看日志清理功能是打开的:spark.history.fs.cleaner.enabled = true,

spark.history.fs.cleaner.interval 和spark.history.fs.cleaner.maxAge使用的是默认值。

但是/user/spark/applicationHistory/ 目录下日志一直未不清理!存储的日志数量超过所允许的最大值。

缩短maxAge时间,然后重启了服务器,发现日志确实被清理了些。

但是还有大量未被清理的,有些运行时失败的spark job的日志没有被清理掉!

例如/user/spark/applicationHistory/application_XXX.inprogress

手动清理掉这些文件,spark Historyserver恢复正常!

相关推荐
瀚域智擎7 分钟前
GEO 信源采信机制深度解析:大模型如何筛选和排序信源
大数据·人工智能·#geo #ai 搜索 #品牌增长 #数字化营销 #内容运营
总爱写点小BUG42 分钟前
git-tidy:一个把「提交规范治理」做成闭环的 Git 桌面客户端
大数据·elasticsearch·搜索引擎
阿明副业观察1 小时前
AI分镜批量生成与画风统一的秘诀
大数据·人工智能·aigc·音视频·ai写作
众壹新能源科技2 小时前
逆变器半夜停机等备件48小时少发10万度电,备件安全库存怎么算
大数据·运维·安全
美狐美颜sdk2 小时前
直播APP开发中的视频帧处理:美颜SDK接入需要注意哪些细节?
大数据·前端·人工智能·音视频·美颜sdk
Zhao-Jichao2 小时前
赛道 A:啤酒酿造化合物分析与啤酒风味预测,2026 年 MathorCup 数学应用挑战赛——大数据竞赛
大数据
瓶瓶持续学习中2 小时前
数字孪生到空间智能,5家厂商的技术路线有何不同?
大数据·人工智能·信息可视化·架构
网易易盾3 小时前
广告合规系统如何选?检出能力、接入成本与运营闭环评估
大数据·人工智能
北极星电力网3 小时前
实录 | 北极星第三届源网荷储一体化暨绿电直连高质量发展交流会落幕
大数据·人工智能
明志数科3 小时前
具身智能训练数据的质量口径问题:从规模扩张到评测基准
大数据·人工智能