Hadoop 的基本 shell 命令

Hadoop 的基本 shell 命令主要用于与 Hadoop 分布式文件系统(HDFS)和 MapReduce 进行交互。以下是一些常用的 Hadoop shell 命令:

一、 HDFS 命令

  1. 查看 HDFS 状态

`hdfs dfsadmin -report`: 显示 HDFS 的健康状态和容量信息。

  1. 文件系统操作

`hdfs dfs -ls [path]`: 列出指定路径下的文件和目录。

`hdfs dfs -du [path]`: 显示指定路径的文件和目录的大小。

`hdfs dfs -df [path]`: 显示 HDFS 的磁盘使用情况。

  1. 文件操作

`hdfs dfs -put localpath hdfspath`: 将本地文件上传到 HDFS。

`hdfs dfs -get hdfspath localpath`: 从 HDFS 下载文件到本地。

`hdfs dfs -copyFromLocal localpath hdfspath`: 将本地文件复制到 HDFS。

`hdfs dfs -copyToLocal hdfspath localpath`: 从 HDFS 复制文件到本地。

  1. 目录操作

`hdfs dfs -mkdir [path]`: 在 HDFS 中创建目录。

`hdfs dfs -rmdir [path]`: 删除 HDFS 中的空目录。

`hdfs dfs -rm [path]`: 删除 HDFS 中的文件或目录。

`hdfs dfs -rm -r [path]`: 递归删除 HDFS 中的目录及其内容。

  1. 文件查看

`hdfs dfs -cat [path]`: 显示 HDFS 文件的内容。

`hdfs dfs -tail [path]`: 显示 HDFS 文件的最后部分内容。

`hdfs dfs -chmod [permissions] [path]`: 更改 HDFS 文件或目录的权限。

`hdfs dfs -chown [owner:group] [path]`: 更改 HDFS 文件或目录的所有者和用户组。

`hdfs dfs -chgrp [group] [path]`: 更改 HDFS 文件或目录的用户组。

二、 MapReduce 命令

1. 提交作业

`hadoop jar [jarfile] [mainclass] [args]`: 提交一个 MapReduce 作业。

2. 查看作业状态

`yarn application -list`: 列出当前运行的 YARN 应用程序。

`yarn application -status [applicationId]`: 查看指定应用程序的状态。

3. 停止作业

`yarn application -kill [applicationId]`: 杀死指定的 YARN 应用程序。

这些命令是使用 Hadoop 时常用的基础命令。Hadoop 的文档和社区提供了更多的细节和高级用法,适用于具体的配置和操作需求。

相关推荐
Lalolander28 分钟前
工厂手工统计耗时耗力怎么办?
大数据·制造执行系统·工厂管理系统·工厂工艺管理·工厂生产进度管理
小王毕业啦2 小时前
2010-2024年 上市公司-突破性创新和渐进性创新(数据+代码+文献)
大数据·人工智能·数据挖掘·数据分析·数据统计·社科数据·经管数据
诗词在线2 小时前
孟浩然诗作数字化深度实战:诗词在线的意象挖掘、检索优化与多场景部署
大数据·人工智能·算法
赵谨言2 小时前
基于Python实现地理空间数据批处理技术探讨及实现--以“多规合一“总体规划数据空间叠加分析为例
大数据·开发语言·经验分享·python
天竺鼠不该去劝架2 小时前
RPA 平台选型指南(2026):金智维 vs 来也RPA vs 艺赛旗 vs 阿里云 RPA 深度对比
大数据·数据库·人工智能
瑞华丽PLM4 小时前
守住数字化的胜算:PLM项目实施风险控制全景方案
大数据·人工智能·plm·国产plm·瑞华丽plm·瑞华丽
babe小鑫4 小时前
企业客户数据分级防护发展指南
大数据·信息可视化·数据分析
yhdata4 小时前
3.6%年复合增速定调!雾化片赛道未来六年发展路径清晰,潜力稳步释放
大数据·人工智能
Lalolander5 小时前
从“大海捞针”到“秒级定位”:破解工厂质量追溯困局的系统性路径
大数据·mes·制造执行系统·工厂管理软件·工厂管理系统
读创商闻5 小时前
2026主流商旅平台Top 5测评与选型解析:制造业企业的商旅治理逻辑
大数据·人工智能