Hadoop 的基本 shell 命令

Hadoop 的基本 shell 命令主要用于与 Hadoop 分布式文件系统(HDFS)和 MapReduce 进行交互。以下是一些常用的 Hadoop shell 命令:

一、 HDFS 命令

  1. 查看 HDFS 状态

`hdfs dfsadmin -report`: 显示 HDFS 的健康状态和容量信息。

  1. 文件系统操作

`hdfs dfs -ls path`: 列出指定路径下的文件和目录。

`hdfs dfs -du path`: 显示指定路径的文件和目录的大小。

`hdfs dfs -df path`: 显示 HDFS 的磁盘使用情况。

  1. 文件操作

`hdfs dfs -put localpath hdfspath`: 将本地文件上传到 HDFS。

`hdfs dfs -get hdfspath localpath`: 从 HDFS 下载文件到本地。

`hdfs dfs -copyFromLocal localpath hdfspath`: 将本地文件复制到 HDFS。

`hdfs dfs -copyToLocal hdfspath localpath`: 从 HDFS 复制文件到本地。

  1. 目录操作

`hdfs dfs -mkdir path`: 在 HDFS 中创建目录。

`hdfs dfs -rmdir path`: 删除 HDFS 中的空目录。

`hdfs dfs -rm path`: 删除 HDFS 中的文件或目录。

`hdfs dfs -rm -r path`: 递归删除 HDFS 中的目录及其内容。

  1. 文件查看

`hdfs dfs -cat path`: 显示 HDFS 文件的内容。

`hdfs dfs -tail path`: 显示 HDFS 文件的最后部分内容。

`hdfs dfs -chmod permissions path`: 更改 HDFS 文件或目录的权限。

`hdfs dfs -chown owner:group path`: 更改 HDFS 文件或目录的所有者和用户组。

`hdfs dfs -chgrp group path`: 更改 HDFS 文件或目录的用户组。

二、 MapReduce 命令

1. 提交作业

`hadoop jar jarfile mainclass args`: 提交一个 MapReduce 作业。

2. 查看作业状态

`yarn application -list`: 列出当前运行的 YARN 应用程序。

`yarn application -status applicationId`: 查看指定应用程序的状态。

3. 停止作业

`yarn application -kill applicationId`: 杀死指定的 YARN 应用程序。

这些命令是使用 Hadoop 时常用的基础命令。Hadoop 的文档和社区提供了更多的细节和高级用法,适用于具体的配置和操作需求。

相关推荐
大大大大晴天13 小时前
每天认识一个组件:Apache Spark
大数据
七夜zippoe18 小时前
Agent 上线第一天就炸了:6 个生产事故的根因分析与修复记录
大数据·ai·agent·根因分析·修复记录
字节跳动数据平台20 小时前
不重拍,也能换道具、换商品、换画风?短剧转漫、电商换款新解法来了
大数据
武子康20 小时前
攻击动作做对了,游戏规则就对了吗?H3-World 与三条控制路线的分工
大数据·人工智能·agent
Lansonli21 小时前
大数据Spark(八十七):Spark-Submit 参数详解
大数据·分布式·spark
cc57250265321 小时前
数据科学与大数据技术专业考证清单有哪些?
大数据
qq_452396231 天前
第二篇:《CommitLog + ConsumeQueue:一条日志解决 Kafka 多分区随机写的难题》
分布式·kafka
Alluxio2 天前
Alluxio + OCI:为 AI 工作负载实现亚毫秒访问延迟与可扩展吞吐
运维·数据库·人工智能·分布式·缓存·ai·语言模型
喵个咪2 天前
GoWind Admin 拆解:BI 大屏设计器——schema 即 JSON、resolver 注入与三张快照表的口径谱系
大数据·后端·go
武子康2 天前
H3-World 的 11.3 小时训练数据,是怎样对齐成动作监督的?
大数据·人工智能·深度学习