大数据笔记之 Hadoop 常用 Shell 命令(一)

文章目录

  • 前言
  • 一、HDFS上的操作
    • [1.1 查看文件或文件夹](#1.1 查看文件或文件夹)
    • [1.2 修改文件或目录权限](#1.2 修改文件或目录权限)
    • [1.3 创建或删除文件夹](#1.3 创建或删除文件夹)
    • [1.4 移动或创建文件](#1.4 移动或创建文件)
    • [1.5 信息统计](#1.5 信息统计)
    • [1.6 设置 hdfs 中文件的副本数量](#1.6 设置 hdfs 中文件的副本数量)
  • 二、在本地上传或下载的操作
    • [2.1 从本地上传文件到HDFS](#2.1 从本地上传文件到HDFS)
    • [2.2 从HDFS下载文件到本地](#2.2 从HDFS下载文件到本地)
  • 总结

前言

前无言


一、HDFS上的操作

操作HDFS上的shell命令,与Linux命令使用方法类似

1.1 查看文件或文件夹

powershell 复制代码
# -ls 显示目录信息
hdfs dfs -ls /

# 显示文件内容
hdfs dfs -cat /tmp/k.txt

# 显示文件末尾 1kb 的数据
hdfs dfs -tail /tmp/x.txt

1.2 修改文件或目录权限

powershell 复制代码
# 修改文件或目录权限
hadoop fs -chmod 777 /a.txt

# 修改文件或目录所有者和所属的组
hadoop fs -chown hadoop:hadoop /a

# 修改文件或目录所属组
hadoop fs -chgrp hadoop /a.txt

1.3 创建或删除文件夹

powershell 复制代码
# 创建文件夹
hdfs dfs -mkdir /a

# 递归创建文件夹
hdfs dfs -mkdir -p /a/b/c

# 删除文件
hdfs dfs -rm /a/b/k.txt

# 递归删除目录及目录里的内容(慎用)
hdfs dfs -rm -r /a

1.4 移动或创建文件

powershell 复制代码
# 移动文件
hdfs dfs -mv /a/k.txt /b

# 创建文件
hdfs dfs -touch /m/w.txt

1.5 信息统计

powershell 复制代码
# 统计文件夹的大小信息
hdfs dfs -du -s -h /a
hdfs dfs -du -h /a

1.6 设置 hdfs 中文件的副本数量

powershell 复制代码
hdfs dfs -setrep 5 /a/k.txt

二、在本地上传或下载的操作

2.1 从本地上传文件到HDFS

powershell 复制代码
 # 从本地剪切粘贴到HDFS
hdfs dfs -moveFromLocal tmp.txt /tmp

# 从本地文件系统中拷贝文件到HDFS上去
hdfs dfs -copyFromLocal tmp.txt /tmp

# 从本地文件系统中拷贝文件到HDFS上去(常用)
 hdfs dfs -put tmp.txt /tmp
 
 # 追加一个文件到已经存在的文件末尾
hdfs dfs -appendToFile tmp.txt /tmp/b.txt

2.2 从HDFS下载文件到本地

powershell 复制代码
# 从HDFS拷贝到本地
hdfs dfs -copyToLocal /tmp/b.txt /home

# 等同于copyToLocal (常用)
hdfs dfs -get /tmp/b.txt /home

总结

没了。。。

相关推荐
GISer_Jing8 分钟前
Git协作开发:feature分支、拉取最新并合并
大数据·git·elasticsearch
IT_10241 小时前
Spring Boot项目开发实战销售管理系统——系统设计!
大数据·spring boot·后端
一只鹿鹿鹿3 小时前
信息化项目验收,软件工程评审和检查表单
大数据·人工智能·后端·智慧城市·软件工程
bcbobo21cn4 小时前
初步了解Linux etc/profile文件
linux·运维·服务器·shell·profile
聚铭网络4 小时前
案例精选 | 某省级税务局AI大数据日志审计中台应用实践
大数据·人工智能·web安全
Qdgr_5 小时前
价值实证:数字化转型标杆案例深度解析
大数据·数据库·人工智能
选择不变5 小时前
日线周线MACD指标使用图文教程,通达信指标
大数据·区块链·通达信指标公式·炒股技巧·短线指标·炒股指标
高山莫衣6 小时前
git rebase多次触发冲突
大数据·git·elasticsearch
链上Sniper6 小时前
智能合约状态快照技术:实现 EVM 状态的快速同步与回滚
java·大数据·linux·运维·web3·区块链·智能合约
wx_ywyy67987 小时前
推客系统小程序终极指南:从0到1构建自动裂变增长引擎,实现业绩10倍增长!
大数据·人工智能·短剧·短剧系统·推客系统·推客小程序·推客系统开发