Hadoop——Hadoop单机搭建问题汇总

1、org.apache.hadoop.security.AccessControlException: Permission denied: user=root...

解决方法:关闭Hadoop,在hdfs-site.xml文件中添加:

XML 复制代码
<property>
    <name>dfs.permissions</name>
    <value>false</value>
</property>

然后重新格式化:hdfs namenode -format,每次格式化时最好把datanode、namenode和tmp目录下的文件删掉,避免出现一些ClusterId之类的问题

最后重启Hadoop

2、org.apache.hadoop.ipc.RemoteException(java.io.IOException): File...

hadoop namenode -format格式化时格式化了多次造成ClusterId不一致等问题

解决方法:关闭Hadoop -> 把datanode、namenode和tmp目录下的文件删掉 -> 重新格式化 -> 重启Hadoop

3、Windows环境下Hadoop启动错误"系统找不到指定的批标签 - resourcemanager"

文件编码问题。

使用Notepad++, 对相关的*.cmd文件(这里是yarn.cmd)做如下操作 Edit(编辑) -> EOL Conversion(文档格式转换) -> Windows Format(转为Windows),保存并在hadoop的sbin目录下重新管理员运行start-all.cmd,可以看到resourcemanager成功运行。

4、java.net.BindException: Problem binding to [localhost:9000] java.net.BindException: Address already in use...

意思是端口被占用,解决方法:

  • 使用命令:netstat -ano |findstr "post_number"查看端口是否被占用
  • 如果被占用,使用tastkill /f /t /im 进程。以java.exe为例:tastkill /f /t /im java.exe
  • 如果未被占用,去查四个配置文件,看是否存在不同参数配置的端口一样。如果一样就将其改成不同端口。

5、org.apache.hadoop.io.nativeio.NativeIO$Windows...

bin文件是否已替代或hadoop.dll是否复杂到C:\Windows\System32下

请看解决方案的【3、替换和转移】

相关推荐
Ujimatsu7 分钟前
数据分析相关面试题-Python部分
大数据·python·数据分析
Omics Pro30 分钟前
空间组学下一代机器学习与深度学习
大数据·人工智能·深度学习·算法·机器学习·语言模型·自然语言处理
北京软秦科技有限公司35 分钟前
AI报告文档审核深度赋能化工行业质量管理:IACheck驱动报告质量跃升与合规风险精准管控新范式
大数据·人工智能
TDengine (老段)1 小时前
TDengine IDMP 工业数据建模 —— 数据情景化
大数据·数据库·人工智能·时序数据库·iot·tdengine·涛思数据
Omics Pro1 小时前
端到端单细胞空间组学数据分析
大数据·数据库·人工智能·算法·数据挖掘·数据分析·aigc
武子康1 小时前
大数据-258 离线数仓 - Livy与Griffin编译安装指南:大数据环境配置实战
大数据·hadoop·后端
Linux蓝魔1 小时前
麒麟官方yum源配置V10SP2-V10SP3-V10SP3-2403
大数据·linux·运维
源码之家1 小时前
大数据毕业设计汽车推荐系统 Django框架 可视化 协同过滤算法 数据分析 大数据 机器学习(建议收藏)✅
大数据·python·算法·django·汽车·课程设计·美食
GOWIN革文品牌咨询2 小时前
国际B2B品牌的“价值压缩”怎么做:不是写一句话,而是搭一套定位推导模型
大数据·人工智能
无名-CODING2 小时前
Java 爬虫高级技术:反反爬策略与分布式爬虫实战
java·分布式·爬虫