hadoop分布式中某个 节点报错的解决案例

前言

在分布式节点中,发现有个节点显示不可用状态,因此需要紧急修复。

hadoop版本

目前这套集群hadoop的版本如下:

集群报错详细日志:

1/1 local-dirs are bad: /kkb/install/hadoop-2.6.0-cdh5.14.2/hadoopDatas/tempDatas/nm-local-dir; 1/1 log-dirs are b

报错分析

通过分析发现,应该是这个节点的磁盘空间满了。

这条错误信息指出 Hadoop 集群的 NodeManager 无法写入其配置的本地目录和日志目录。这通常发生在 Hadoop 集群启动时,NodeManager 尝试初始化时。错误的原因是指定的本地目录 (`local-dirs`) 和日志目录 (`log-dirs`) 不可用或不可写。

可能的原因包括:

  1. **目录不存在**:配置的路径可能不存在。

  2. **权限问题**:运行 Hadoop 的用户可能没有权限写入这些目录。

  3. **磁盘空间不足**:指定的磁盘可能已满。

  4. **SELinux 策略**:如果你的系统使用 SELinux,可能需要调整安全上下文。

  5. **目录损坏**:文件系统损坏或目录结构损坏。

解决步骤:

  1. **检查目录是否存在**:

```sh

ls -ld /kkb/install/hadoop-2.6.0-cdh5.14.2/hadoopDatas/tempDatas/nm-local-dir

ls -ld /kkb/install/hadoop-2.6.0-cdh5.14.2/logs/userlogs

```

  1. **创建缺失的目录**:

如果目录不存在,你需要手动创建它们:

```sh

mkdir -p /kkb/install/hadoop-2.6.0-cdh5.14.2/hadoopDatas/tempDatas/nm-local-dir

mkdir -p /kkb/install/hadoop-2.6.0-cdh5.14.2/logs/userlogs

```

  1. **检查权限**:

确保运行 Hadoop 的用户(例如 `hadoop` 用户)对这些目录具有写权限:

```sh

chown -R hadoop:hadoop /kkb/install/hadoop-2.6.0-cdh5.14.2/hadoopDatas/tempDatas/

chown -R hadoop:hadoop /kkb/install/hadoop-2.6.0-cdh5.14.2/logs/

```

  1. **检查磁盘空间**:

使用 `df -h` 检查磁盘空间是否已满。

  1. **调整 SELinux**:

如果你的系统使用 SELinux,可能需要调整策略或更改目录的安全上下文:

```sh

chcon -R -t hadoop_var_lib_t /kkb/install/hadoop-2.6.0-cdh5.14.2/hadoopDatas/tempDatas/

chcon -R -t hadoop_log_t /kkb/install/hadoop-2.6.0-cdh5.14.2/logs/

```

  1. **检查 Hadoop 配置**:

确保 `hdfs-site.xml` 和 `core-site.xml` 中配置的本地目录和日志目录路径正确无误。

  1. **格式化 NameNode(如果必要)**:

如果 NameNode 损坏,可能需要格式化。但这将删除所有 HDFS 数据,因此只有在安全模式或测试环境中才考虑执行此操作。

  1. **重启 Hadoop 服务**:

在解决了目录问题后,尝试重启 Hadoop 服务,特别是 NodeManager。

  1. **查看日志文件**:

检查 Hadoop 的日志文件,特别是 `hadoop-*.log` 文件,以获取更多错误信息。

  1. **联系管理员**:

如果你没有足够的权限或不熟悉系统,联系系统管理员来帮助解决问题。

请在进行任何重要更改之前备份重要数据,并确保你具有足够的系统管理知识或获得专业帮助。

通过50070端口进去发现确实是因为节点01的空间即将耗尽。

相关推荐
心止水j1 分钟前
hive案例
数据仓库·hive·hadoop
触想工业平板电脑一体机18 分钟前
【触想智能】工业触控一体机在工业应用中扮演的角色以及其应用场景分析
android·大数据·运维·电脑·智能电视
TDengine (老段)20 分钟前
TDengine 统计函数 STDDEV_SAMP 用户手册
大数据·数据库·物联网·时序数据库·iot·tdengine·涛思数据
cui178756821 分钟前
重构消费模式:消费增值如何让 “花出去的钱” 回头找你?
大数据·人工智能·设计模式·重构·运维开发
原神启动124 分钟前
云计算大数据——MySQL数据库二(数据库管理)
大数据·数据库·mysql
爱吃烤鸡翅的酸菜鱼28 分钟前
【RabbitMQ】发布订阅架构深度实践:构建高可用异步消息处理系统
java·spring boot·分布式·后端·websocket·架构·rabbitmq
回家路上绕了弯28 分钟前
JVM 调参实战指南:从基础到落地,解决 GC 与内存难题
分布式·后端
java1234_小锋31 分钟前
Kafka中的消费者偏移量是如何管理的?
分布式·kafka
无心水35 分钟前
【分布式利器:分布式ID】7、分布式数据库方案:TiDB/OceanBase全局ID实战
数据库·分布式·tidb·oceanbase·分库分表·分布式id·分布式利器
一辉ComeOn37 分钟前
【大数据高并发核心场景实战】缓存层 - 写缓存
java·大数据·redis·缓存