Hadoop 的基本 shell 命令

Hadoop 的基本 shell 命令主要用于与 Hadoop 分布式文件系统(HDFS)和 MapReduce 进行交互。以下是一些常用的 Hadoop shell 命令:

一、 HDFS 命令

  1. 查看 HDFS 状态

`hdfs dfsadmin -report`: 显示 HDFS 的健康状态和容量信息。

  1. 文件系统操作

`hdfs dfs -ls [path]`: 列出指定路径下的文件和目录。

`hdfs dfs -du [path]`: 显示指定路径的文件和目录的大小。

`hdfs dfs -df [path]`: 显示 HDFS 的磁盘使用情况。

  1. 文件操作

`hdfs dfs -put localpath hdfspath`: 将本地文件上传到 HDFS。

`hdfs dfs -get hdfspath localpath`: 从 HDFS 下载文件到本地。

`hdfs dfs -copyFromLocal localpath hdfspath`: 将本地文件复制到 HDFS。

`hdfs dfs -copyToLocal hdfspath localpath`: 从 HDFS 复制文件到本地。

  1. 目录操作

`hdfs dfs -mkdir [path]`: 在 HDFS 中创建目录。

`hdfs dfs -rmdir [path]`: 删除 HDFS 中的空目录。

`hdfs dfs -rm [path]`: 删除 HDFS 中的文件或目录。

`hdfs dfs -rm -r [path]`: 递归删除 HDFS 中的目录及其内容。

  1. 文件查看

`hdfs dfs -cat [path]`: 显示 HDFS 文件的内容。

`hdfs dfs -tail [path]`: 显示 HDFS 文件的最后部分内容。

`hdfs dfs -chmod [permissions] [path]`: 更改 HDFS 文件或目录的权限。

`hdfs dfs -chown [owner:group] [path]`: 更改 HDFS 文件或目录的所有者和用户组。

`hdfs dfs -chgrp [group] [path]`: 更改 HDFS 文件或目录的用户组。

二、 MapReduce 命令

1. 提交作业

`hadoop jar [jarfile] [mainclass] [args]`: 提交一个 MapReduce 作业。

2. 查看作业状态

`yarn application -list`: 列出当前运行的 YARN 应用程序。

`yarn application -status [applicationId]`: 查看指定应用程序的状态。

3. 停止作业

`yarn application -kill [applicationId]`: 杀死指定的 YARN 应用程序。

这些命令是使用 Hadoop 时常用的基础命令。Hadoop 的文档和社区提供了更多的细节和高级用法,适用于具体的配置和操作需求。

相关推荐
星图易码7 分钟前
星图云开发者平台功能详解 | IoT物联网平台:工业设备全链路智能管控中枢
分布式·物联网·低代码·低代码平台
Justice Young7 分钟前
Hive第五章:Integeration with HBase
大数据·数据仓库·hive·hbase
王五周八8 分钟前
基于 Redis+Redisson 实现分布式高可用编码生成器
数据库·redis·分布式
天远Date Lab8 分钟前
Python金融风控实战:集成天远多头借贷行业风险版API实现共债预警
大数据·python
Justice Young12 分钟前
Hive第三章:HQL的使用
大数据·数据仓库·hive·hadoop
成为你的宁宁19 分钟前
【Zabbix 分布式监控实战指南(附图文教程):Server/Proxy/Agent 三者关系解析 + Proxy 部署、Agent 接入及取数路径验证】
分布式·zabbix
qq_124987075319 分钟前
基于Spring Boot的电影票网上购票系统的设计与实现(源码+论文+部署+安装)
java·大数据·spring boot·后端·spring·毕业设计·计算机毕业设计
无心水21 分钟前
【分布式利器:腾讯TSF】6、TSF可观测性体系建设实战:Java全链路Metrics+Tracing+Logging落地
java·分布式·架构·wpf·分布式利器·腾讯tsf·分布式利器:腾讯tsf
麦兜*24 分钟前
【Spring Boot】 接口性能优化“十板斧”:从数据库连接到 JVM 调优的全链路提升
java·大数据·数据库·spring boot·后端·spring cloud·性能优化
郑州光合科技余经理24 分钟前
架构解析:同城本地生活服务o2o平台海外版
大数据·开发语言·前端·人工智能·架构·php·生活