Hadoop 的基本 shell 命令

Hadoop 的基本 shell 命令主要用于与 Hadoop 分布式文件系统(HDFS)和 MapReduce 进行交互。以下是一些常用的 Hadoop shell 命令:

一、 HDFS 命令

  1. 查看 HDFS 状态

`hdfs dfsadmin -report`: 显示 HDFS 的健康状态和容量信息。

  1. 文件系统操作

`hdfs dfs -ls path`: 列出指定路径下的文件和目录。

`hdfs dfs -du path`: 显示指定路径的文件和目录的大小。

`hdfs dfs -df path`: 显示 HDFS 的磁盘使用情况。

  1. 文件操作

`hdfs dfs -put localpath hdfspath`: 将本地文件上传到 HDFS。

`hdfs dfs -get hdfspath localpath`: 从 HDFS 下载文件到本地。

`hdfs dfs -copyFromLocal localpath hdfspath`: 将本地文件复制到 HDFS。

`hdfs dfs -copyToLocal hdfspath localpath`: 从 HDFS 复制文件到本地。

  1. 目录操作

`hdfs dfs -mkdir path`: 在 HDFS 中创建目录。

`hdfs dfs -rmdir path`: 删除 HDFS 中的空目录。

`hdfs dfs -rm path`: 删除 HDFS 中的文件或目录。

`hdfs dfs -rm -r path`: 递归删除 HDFS 中的目录及其内容。

  1. 文件查看

`hdfs dfs -cat path`: 显示 HDFS 文件的内容。

`hdfs dfs -tail path`: 显示 HDFS 文件的最后部分内容。

`hdfs dfs -chmod permissions path`: 更改 HDFS 文件或目录的权限。

`hdfs dfs -chown owner:group path`: 更改 HDFS 文件或目录的所有者和用户组。

`hdfs dfs -chgrp group path`: 更改 HDFS 文件或目录的用户组。

二、 MapReduce 命令

1. 提交作业

`hadoop jar jarfile mainclass args`: 提交一个 MapReduce 作业。

2. 查看作业状态

`yarn application -list`: 列出当前运行的 YARN 应用程序。

`yarn application -status applicationId`: 查看指定应用程序的状态。

3. 停止作业

`yarn application -kill applicationId`: 杀死指定的 YARN 应用程序。

这些命令是使用 Hadoop 时常用的基础命令。Hadoop 的文档和社区提供了更多的细节和高级用法,适用于具体的配置和操作需求。

相关推荐
QYR_114 小时前
2026年全球氧化锆增韧氧化铝陶瓷市场规模达1.63亿美元,高端制造需求驱动行业持续增长
大数据·人工智能
智圣新创016 小时前
重构沉浸式育人链路:智圣新创智慧学生社区平台建设的行业全域参考
大数据·人工智能·重构
ACP广源盛139246256738 小时前
IX8024@ACP# 搭配此芯 AI 服务器 + 爱芯元智产品完整方案
大数据·运维·服务器·人工智能·分布式·嵌入式硬件
天行健,君子而铎8 小时前
2026年中国API安全产品综合排名:选型指南与技术趋势解析
大数据
李昊哲小课8 小时前
phoenix5.3.1整合hbase2.6.6
大数据·hbase·phoenix
qyr67898 小时前
全球新能源汽车电机驱动器市场深度调研报告
大数据·网络·人工智能·自动化·汽车
科技圈观察9 小时前
适合长期挂OpenClaw不关机的电脑有哪些?7×24小时稳定运行主机推荐
大数据·人工智能·科技
数字化老赵10 小时前
设备管理三好、四会、五律、五定,都是啥?
大数据·设备管理
李昊哲小课11 小时前
ubuntu26.04搭建kafka集群
分布式·kafka
Alluxio12 小时前
Alluxio + Anyscale Ray框架,实现跨区域训练数据读取速度20倍提升
人工智能·分布式·机器学习·缓存·ai