Hadoop报错 Couldn‘t find datanode to read file from. Forbidden

"Couldn't find datanode to read file from. Forbidden"

说明 Hadoop 的 Web 界面(如 http://namenode:9870/ 或 http://namenode:50070/)在尝试访问 HDFS 文件数据块 时,无法找到 DataNode 或被拒绝访问 。

我们来逐步分析可能原因和解决方法👇


🧩 一、明确场景

如果你是:

  • 在浏览器上访问 Hadoop 的 Web UI;
  • 点击 "Browse the filesystem"(浏览 HDFS 文件);
  • 然后点开某个文件(想下载或查看内容);
    就出现了这个错误。

说明:Web UI 能连接到 NameNode(因为能列目录),但 DataNode 层访问失败。


🚨 二、常见原因与解决方法

1️⃣ DataNode 没有正常运行

最常见原因。

执行:

bash 复制代码
jps

看看是否有:

复制代码
NameNode
DataNode
SecondaryNameNode
ResourceManager
NodeManager

如果没有 DataNode:

bash 复制代码
start-dfs.sh

然后再刷新浏览器看看。


2️⃣ DataNode 报错或心跳丢失

在 NameNode UI 中查看:

"Datanodes" 页面(一般在 http://namenode:9870/dfshealth.html#tab-datanode)

看看有没有显示 DataNode 在线。

如果状态是 Dead 或 Decommissioned,需要重启:

bash 复制代码
hdfs --daemon stop datanode
hdfs --daemon start datanode

3️⃣ 防火墙 / 端口问题

Web UI 要从 DataNode 读取数据块,需要访问 DataNode 的 HTTP 端口(默认 9864)。

检查:

bash 复制代码
sudo netstat -tulnp | grep 9864

如果没开放:

bash 复制代码
sudo ufw allow 9864

或者干脆关闭防火墙试试:

bash 复制代码
sudo ufw disable

4️⃣ 浏览器访问被拒绝(Forbidden)

如果你的 DataNode 启用了安全认证(例如 Kerberos 或 Hadoop 权限),

那么 Web UI 用匿名访问被拒绝。

解决方法:

  • 在 hdfs-site.xml 中设置:

    xml 复制代码
    <property>
      <name>dfs.webhdfs.enabled</name>
      <value>true</value>
    </property>
  • 并确保你使用的是 Hadoop 超级用户(通常是 hadoop 或 hdfs 用户)。


5️⃣ 文件确实没有副本(丢块)

查看日志:

bash 复制代码
hdfs fsck /path/to/file -files -blocks -locations

如果提示:

复制代码
Status: CORRUPT

说明文件块丢失,DataNode 没有数据,浏览器自然打不开。

可以尝试删除或重新上传文件:

bash 复制代码
hdfs dfs -rm /path/to/file

✅ 三、总结

原因 表现 解决方案
DataNode 没启动 目录能看但打不开文件 启动 DataNode
DataNode 死亡或掉线 NameNode 页面显示 Dead 重启 DataNode
防火墙阻拦 "Forbidden" 开放 9864 端口
权限问题 "Forbidden" 检查权限配置或启用 WebHDFS
文件丢块 无法读取数据 删除或重新上传文件
相关推荐
isfox30 分钟前
Hadoop 序列化:为什么不用 Java 自带 Serializable?
大数据
字节跳动数据平台2 小时前
火山引擎 VeKnow 落地指南(下):从知识编译到价值渗透
大数据
AI源码3 小时前
基于Spark的期刊推荐系统的设计与实现
大数据·分布式·spark
玩美数据4 小时前
海外市场数据分析驱动下的产业趋势演变与竞争格局深度解读
大数据·人工智能
AI源码5 小时前
基于 Hadoop 和 Hive 的旅游景区数据的分析与可视化系统
hive·hadoop·旅游
wuyk55518 小时前
Spider-第16讲-线程池与竞态问题
大数据·爬虫·python·elasticsearch·搜索引擎
数字新视界21 小时前
全国产化动环监控平台在机房智能化管理中的应用探索
大数据·人工智能·数据中心·机房管理·模块化机房
TDengine (老段)1 天前
TDengine IDMP 预测、异常检测与数据插补
大数据·数据库·人工智能·时序数据库·tdengine·涛思数据·idmp
国科安芯1 天前
CAN FD一升到5Mbps就误码:位定时、终端与共模的现场排查顺序——ASM1042S2S在星载分布式总线中的FAE实践
分布式·安全·架构·canfd·dcdc·抗辐射·载荷
字节跳动数据平台1 天前
火山引擎 VeKnow 落地指南(上):从选场景到知识治理
大数据