Hadoop Hdfs基本命令

0目录

|--------------------------------------------------------------------|
| 1.hadoop 安装问题处理 2.hdfs 基本命令 3. 上传/下载文件和文件夹 |

1.hadoop安装问题处理

|---------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------|
| 如果安装有进程无法启动,如下图 重新检查6个配置文件 Core-site.xml \ hdfs-site.xml \ hadoop-env.sh \ yarn-site.xml \ workers \ yarn-site.xml |
| 来到hadoop313目录 清空data和yarndata |
| 重新初始化 |
| 测试 |
| |
| |

2.hadoop hdfs基本命令

|-------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------|
| Windows 目录添加端口号 |
| 测试 |
| 分布式启动命令 关闭 启动dfs.sh 关闭dfs.sh 启动yarn |
| 对应 dfs.sh 对应 DataNode / NameNode / SecondaryNameNode yarn.sh 对应 ResourceManager / NodeManager |
| 启动单一进程 来到sbin目录下 启动hdfs 启动yarn |

3.上传/下载文件夹和文档

|-----------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------|
| 目前没有文件和文档 |
| Opt 目录下创建kb23tmp文件夹,kb23tmp创建hellohadoop.txt |
| 编辑hellohadoop.txt |
| 上传 |
| 上传成功 |
| 上传文件 来到install目录下 hdfs 创建 install文件 上传 [root@kb130 install]# hdfs dfs -put ./hadoop313.gz /install 上传成功 3个节点 删除文档 删除文件夹 下载 将hellohadoop.txt 下载到当前(kb23tmp目录下) |
| 补充常见端口号 * 常用端口号 hadoop3.x HDFS NameNode 内部通常端口: 8020/9000/9820 HDFS NameNode 对用户的查询端口:9870 Yarn查看任务运行情况的:8088 历史服务器:19888 hadoop2.x HDFS NameNode内部通常端口:8020/9000 HDFS NameNode 对用户的查询端口: 50070 Yarn查看任务运行情况的:8088 历史服务器:19888 二、常用的配置文件 3.x core-site. xml hdfs-site. xml yarn-site. xml mapred-site.xml workers 2.x core-site. xml hdfs-site.xml yarn-site.xml mapred-site.xml slaves |
| Yarn |
| 开启历史服务器 |

相关推荐
RestCloud36 分钟前
在制造业数字化转型浪潮中,数据已成为核心生产要素。然而,系统割裂、数据滞后、开发运维成本高等问题,却像顽固的 “数据枷锁”,阻碍着企业发展。ETLCloud与
数据库·postgresql
!chen1 小时前
【Spring Boot】自定义starter
java·数据库·spring boot
十碗饭吃不饱1 小时前
sql报错:java.sql.SQLSyntaxErrorException: Unknown column ‘as0‘ in ‘where clause‘
java·数据库·sql
IT学长编程2 小时前
计算机毕业设计 基于EChants的海洋气象数据可视化平台设计与实现 Python 大数据毕业设计 Hadoop毕业设计选题【附源码+文档报告+安装调试】
大数据·hadoop·python·毕业设计·课程设计·毕业论文·海洋气象数据可视化平台
我是Superman丶2 小时前
【优化】Mysql指定索引查询或忽略某个索引
数据库·mysql
程序定小飞2 小时前
基于springboot的在线商城系统设计与开发
java·数据库·vue.js·spring boot·后端
呆呆小金人2 小时前
SQL入门: HAVING用法全解析
大数据·数据库·数据仓库·sql·数据库开发·etl·etl工程师
LL_break2 小时前
Mysql数据库
java·数据库·mysql
野犬寒鸦2 小时前
从零起步学习Redis || 第十一章:主从切换时的哨兵机制如何实现及项目实战
java·服务器·数据库·redis·后端·缓存
倔强的石头_3 小时前
面向大数据架构的演进:为何 Apache IoTDB 是与生态无缝融合的理想之选?
数据库