设置Hadoop守护进程的JVM参数

一般情况下我们不去动守护进程的JVM,这里的守护进程说的是NameNode、DataNode等Hadoop服务自己本身的进程。但是有一些特殊情况下需要限制,比如工作中虽然集群中资源队列会有10%左右的预留空余,不过这是整个集群队列的限制,对于DataNode节点自身来说通常是限制在配置文件中的定额可跑任务总资源起到一个直观的限制,而通常DataNode节点自身的大部分资源都会分配给计算以及部分系统预留,这就导致我们在使用一些能力的时候偶发一个JVM可分配到的内存不足的问题,如下

bash 复制代码
#
# There is insufficient memory for the Java Runtime Environment to continue.
# Native memory allocation (mmap) failed to map 2684354560 bytes for committing reserved memory.
# Possible reasons:
#   The system is out of physical RAM or swap space
# Possible solutions:
#   Reduce memory load on the system
#   Increase physical memory or swap space
#   Check if swap backing store is full
#   Decrease Java heap size (-Xmx/-Xms)
#   Decrease number of Java threads
#   Decrease Java thread stack sizes (-Xss)
#   Set larger code cache with -XX:ReservedCodeCacheSize=
# This output file may be truncated or incomplete.
#
#  Out of Memory Error (os_linux.cpp:2749), pid=989550, tid=0x00007f3ff4b66700
#
# JRE version:  (8.0_202-b08) (build )
# Java VM: Java HotSpot(TM) 64-Bit Server VM (25.202-b08 mixed mode linux-amd64 )
# Core dump written. Default location: /home/work/core or core.989550

上面这个是博主工作中,某次操作hadoop ls时报了一个内存不足的OOM错误,这种时候,就需要对守护可用的内存做一些限制,限制的方法是修改hadoop-evn.sh配置文件中的HADOOP_OPTS环境变量

bash 复制代码
export HADOOP_OPTS="$HADOOP_OPTS -Xmx2g -Xms1g"

这里-Xmx2g表示设置最大堆内存为2GB,-Xms1g表示设置初始堆内存为1GB。

除了全局的HADOOP_OPTS环境变量外,Hadoop还允许你为不同的组件(如NameNode、DataNode等)单独设置JVM参数。这通常通过在hadoop-env.sh中设置特定的环境变量(如HADOOP_NAMENODE_OPTS、HADOOP_DATANODE_OPTS等)来实现。

相关推荐
NiceZack43 分钟前
Hadoop 部署全流程教程:从新装 CentOS 到伪分布式与完全分布式
hadoop·分布式·centos
MARSERERER1 小时前
Flink将Hive数据导入StarRocks中任务重跑如何避免数据重复?
大数据
电子科技圈1 小时前
2026 RISC-V中国峰会观察:编译调试工具链的“在场节奏”,释放了什么信号?
大数据·人工智能·设计模式·软件工程·软件构建·代码规范·risc-v
紧固件情报站1 小时前
紧固件报价逻辑重构:成本、合规与智能博弈
大数据·人工智能·重构
辛迪聊物业数字化2 小时前
智慧社区小程序落地避坑指南:3类物业方案选型+成本测算,线上服务零翻车
大数据·嵌入式硬件·百度·系统架构
Leo.yuan2 小时前
企业业务人员如何独立完成数据分析?2026年自助BI工具选型与应用指南
大数据·数据库·人工智能
@小匠2 小时前
Flink + Iceberg 批量失败复盘:一次超时如何变成 Hive Metastore 锁泄漏
大数据·hive·flink
小海测评2 小时前
生成式引擎优化技术解析:大语言模型外部内容采信机制与工程实践
大数据·人工智能·语言模型·geo·企业获客
yyzc111112 小时前
合规稳定资金结算收款系统助力门店发展
大数据·运维·人工智能
明天也要努力学习3 小时前
深入理解 JVM 垃圾回收(GC)
java·jvm