spark history server异常

现象:spark 日志文件突然新增了很多.hprof文件,

查找日志spark配置参数spark_log_dir进入日志目录:

查看historyServer日志:

bash 复制代码
Spark Command: /usr/lib/jvm/java-1.8.0/bin/java -cp /opt/apps/JINDOSDK/jindosdk-current/lib/*:/etc/taihao-apps/spark-conf/:/opt/apps/SPARK3/spark-current/jars/*:/etc/taihao-apps/hadoop-conf/ -XX:+ExitOnOutOfMemoryError -XX:OnOutOfMemoryError=kill -9 %p -XX:+HeapDumpOnOutOfMemoryError -XX:HeapDumpPath=/var/log/taihao-apps/spark/ -Dlog4j.configuration=file:/etc/taihao-apps/spark-conf/spark-daemon-log4j.properties -Dspark.log.dir=/var/log/taihao-apps/spark -Dspark.log.file=spark-history-server.log -Xloggc:/var/log/taihao-apps/spark/spark-history-gc.log -XX:+IgnoreUnrecognizedVMOptions -verbose:gc -XX:+PrintGCDetails -XX:+PrintGCTimeStamps -XX:+PrintGCDateStamps -XX:+UseGCLogFileRotation -XX:NumberOfGCLogFiles=5 -XX:GCLogFileSize=128M -Xmx1g org.apache.spark.deploy.history.HistoryServer
========================================
java.lang.OutOfMemoryError: GC overhead limit exceeded
Dumping heap to /var/log/taihao-apps/spark/java_pid562312.hprof ...
Heap dump file created [1038934719 bytes in 4.457 secs]
#
# java.lang.OutOfMemoryError: GC overhead limit exceeded
# -XX:OnOutOfMemoryError="kill -9 %p"
#   Executing /bin/sh -c "kill -9 562312"...
(END)

发现是history Server服务一直启动oom异常

重启一下:

bash 复制代码
yarn --daemon start timelineserver

或者:
yarn-daemon start timelineserver

重启无效,

定位配置参数发现spark历史任务日志太多,一直没清理

修改配置参数:

bash 复制代码
spark.history.fs.cleaner.enabled = true

spark_history_daemon_memory = 8g

spark_thrift_daemon_memory = 4g

成功

参考链接:
https://blog.csdn.net/Mrerlou/article/details/121405408
https://www.cnblogs.com/lemonu/p/13901203.html
https://www.cnblogs.com/nortingHome/p/13984217.html

相关推荐
慧一居士13 分钟前
Kafka批量消费部分处理成功时的手动提交方案
分布式·后端·kafka
董可伦23 分钟前
Flink HA 总结
大数据·flink
搞不懂语言的程序员39 分钟前
如何实现Kafka的Exactly-Once语义?
分布式·kafka·linq
ErizJ44 分钟前
Golang|分布式索引架构
开发语言·分布式·后端·架构·golang
zcyf08092 小时前
kafka理论学习汇总
java·分布式·学习·kafka
yuhuhuh2 小时前
如何在idea中写spark程序
ajax·spark·intellij-idea
不爱学英文的码字机器2 小时前
数字孪生的浪潮:从虚拟镜像到现实世界的 IT 变革
大数据·python
kaamelai2 小时前
Kaamel视角下的MCP安全最佳实践
大数据·人工智能·安全
anqi272 小时前
如何在 IntelliJ IDEA 中编写 Speak 程序
java·大数据·开发语言·spark·intellij-idea
xiaoxi6663 小时前
Dubbo实战:四步实现注册中心平滑迁移
分布式·nacos·dubbo·注册中心