hadoop基础

启动Hadoop

复制代码
cd /usr/local/hadoop
./sbin/start-dfs.sh #启动hadoop

打开
./bin/hdfs dfs
./bin/hdfs dfs -ls

针对 DataNode 没法启动的解决方法

复制代码
cd /usr/local/hadoop
./sbin/stop-dfs.sh   # 关闭
rm -r ./tmp     # 删除 tmp 文件,注意这会删除 HDFS 中原有的所有数据
./bin/hdfs namenode -format   # 重新格式化 NameNode
./sbin/start-dfs.sh  # 重启

  • hdfs dfs -ls 命令的完整语法是:hdfs dfs -ls path

默认情况下当你未指定path 时,hadoop会在HDFS里面将路径扩展为/home/username;这样的话username就会被执行命令的Linux用户名替代。因此,当执行此命令时,hdfs dfs -ls ,你看到的报错,ls: '.'no suck file or directory ,因为Hadoop正在寻找这路径/home/username(Linux用户名),但是这条路径在HDFS中不存在。

所以你可以这样做:

root@localhost hadoop#bin/hdfs dfs -ls /

进入 Hadoop 的配置文件目录:cd /usr/local/hadoop

执行名称节点的格式化:./bin/hdfs namenode -format

启动 HDFS:./sbin/start-dfs.sh

停止 HDFS:./sbin/stop-dfs.sh

相关推荐
小欣加油1 天前
Hadoop开发环境搭建
大数据·数据库·hadoop
段一凡-华北理工大学1 天前
工业领域的Hadoop架构学习~系列文章01:Hadoop与工业4.0深度融合
大数据·hadoop·学习·架构·知识图谱·高炉炼铁·工业智能体
小欣加油2 天前
Hive综合应用案例——用户学历查询
数据仓库·hive·hadoop
至此流年莫相忘2 天前
CentOS 部署 Hadoop 环境指导文档
linux·hadoop·centos
yumgpkpm2 天前
Hadoop(CDH6、CDP7)在Qwen3.7大模型训练中的作用,(含部署、运行操作步骤)
大数据·hive·hadoop·分布式·zookeeper·spark·kafka
Irene19913 天前
正确停止 Sqoop 任务:yarn application -kill(直接 kill 进程会触发重启,且可能导致状态不一致)
hadoop·sqoop
南屹川3 天前
【大数据】大数据处理技术栈:从采集到分析的完整链路
大数据·人工智能·hadoop·flink·spark·数据处理
Irene19914 天前
Sqoop 安装完整教程(基于 WSL2 + Ubuntu 24.04)
hadoop·ubuntu·sqoop
m0_639310796 天前
大数据技术原理-HDFS的安装与应用
java·大数据·jvm·hadoop·spring·hdfs·eclipse
188105069636 天前
摸鱼事务所——团队作业——大模型评测作业
大数据·hadoop·分布式