Hadoop——Hadoop单机搭建问题汇总

1、org.apache.hadoop.security.AccessControlException: Permission denied: user=root...

解决方法:关闭Hadoop,在hdfs-site.xml文件中添加:

XML 复制代码
<property>
    <name>dfs.permissions</name>
    <value>false</value>
</property>

然后重新格式化:hdfs namenode -format,每次格式化时最好把datanode、namenode和tmp目录下的文件删掉,避免出现一些ClusterId之类的问题

最后重启Hadoop

2、org.apache.hadoop.ipc.RemoteException(java.io.IOException): File...

hadoop namenode -format格式化时格式化了多次造成ClusterId不一致等问题

解决方法:关闭Hadoop -> 把datanode、namenode和tmp目录下的文件删掉 -> 重新格式化 -> 重启Hadoop

3、Windows环境下Hadoop启动错误"系统找不到指定的批标签 - resourcemanager"

文件编码问题。

使用Notepad++, 对相关的*.cmd文件(这里是yarn.cmd)做如下操作 Edit(编辑) -> EOL Conversion(文档格式转换) -> Windows Format(转为Windows),保存并在hadoop的sbin目录下重新管理员运行start-all.cmd,可以看到resourcemanager成功运行。

4、java.net.BindException: Problem binding to [localhost:9000] java.net.BindException: Address already in use...

意思是端口被占用,解决方法:

  • 使用命令:netstat -ano |findstr "post_number"查看端口是否被占用
  • 如果被占用,使用tastkill /f /t /im 进程。以java.exe为例:tastkill /f /t /im java.exe
  • 如果未被占用,去查四个配置文件,看是否存在不同参数配置的端口一样。如果一样就将其改成不同端口。

5、org.apache.hadoop.io.nativeio.NativeIO$Windows...

bin文件是否已替代或hadoop.dll是否复杂到C:\Windows\System32下

请看解决方案的【3、替换和转移】

相关推荐
盘古信息IMS4 分钟前
WMS 智能仓储管理系统推荐,如何搭建数智化时代的敏捷仓储平台
大数据·运维
doublelucklysnow5 分钟前
Linux安装mysql8.0
大数据·kylin
学术小白人5 分钟前
2026 年人工智能与社交网络系统国际学术会议暨智能与网络安全研讨圆满落幕
大数据·人工智能·科技·物联网·机器学习
yumgpkpm15 分钟前
基于GPU的Spark应用加速 Cloudera CDP/华为CMP鲲鹏版+Nvidia英伟达联合解决方案
大数据·数据库·人工智能·hadoop·elasticsearch·spark·cloudera
鸿乃江边鸟15 分钟前
Spark Datafusion Comet 向量化--ApplyColumnarRulesAndInsertTransitions规则
大数据·spark·native
一人の梅雨16 分钟前
阿里巴巴商品详情接口实战:B2B供应链视角下的高可用集成与数据价值挖掘
大数据·数据库·人工智能
乐迪信息16 分钟前
乐迪信息:AI视频分析技术用于船舶倾斜监控
大数据·网络·人工智能·算法·无人机
咕噜咕噜万22 分钟前
版本管理与产品迭代:规划、执行、工具与复盘全流程
大数据·人工智能
企业对冲系统官31 分钟前
价格风险管理平台审批角色配置与权限矩阵设计
大数据·运维·开发语言·前端·网络·数据库·矩阵
莫叫石榴姐31 分钟前
用SQL实现三次指数平滑预测:递归与非递归两种解法详解
大数据·数据库·sql