HDFS EXERCISES

复制代码
bash: hdfs: command not found...

这可能是因为hdfs命令不在系统环境变量中

复制代码
whereis hadoop

找到hadoop的位置

一旦找到Hadoop安装目录,您需要将其 bin 目录添加到PATH环境变量中。

复制代码
vi ~/.bashrc

.bashrc 是一个在Linux和Unix系统中用于Bash shell的配置文件。当你启动一个新的终端会话时,或者在命令行中启动一个新的Bash实例时,该文件会被自动读取并执行。文件中包含的命令用于配置终端会话的环境变量,别名,以及自定义命令。

是改变生效

复制代码
source ~/.bashrc

复制代码
bash: start-dfs.sh: command not found...

这通常意味着 Hadoop 的 sbin 目录 没有被添加到环境变量 PATH 中。

同上解决

$

在 Bash 和其他类 Unix 操作系统的 shell 中,$ 符号用于访问变量的值。当你在命令行或者脚本中使用 $ 符号,它告诉 shell 去获取与紧随其后的文字对应的变量的值。

当你定义了一个变量,比如 MY_VARIABLE=hello,你可以通过 $MY_VARIABLE 来访问它的值。例如,echo $MY_VARIABLE 会输出 hello

修改完之后就可以全局启动hdfs

复制代码
start-dfs.sh

查看状态我们可以发现没有datanode

我们可以手动启动datanode

复制代码
hadoop-daemon.sh start datanode

查看UI界面

先关闭防火墙

复制代码
systemctl stop firewalld    #关闭防火墙

systemctl disable firlewalld  #关闭防火墙开机启动

访问

复制代码
http://localhost:50070

在hdfs上创建文件

复制代码
hdfs dfs -mkdir /demo

一开始出现了如下错误

解决方法如下

复制代码
cd /etc
vi hosts

再重新启动

复制代码
stop-all.sh
start-all.sh

然后解决问题


我们发现没有datanode

删除hadoop/tmp时可以使用

复制代码
rm -rm tmp


Linux(CentOS7)下安装idea的详细步骤_centos7.9安装idea社区版本-CSDN博客

参考以上教程

相关推荐
码匠许师傅42 分钟前
【C++ 面试真题】聊聊 C++ 的序列容器
java·c++·面试
这个DBA有点耶1 小时前
从库延迟的“二次放大”效应:一次大事务,拖垮整个读写分离
数据库·mysql·架构
IT爱学堂1 小时前
尚硅谷Java+AI大模型应用开发革新版本 2025年3月
java·开发语言·人工智能
LearnYard1 小时前
自然语言驱动的数据图表生成:几款工具功能对比实践
数据库·百度·powerpoint
一个有温度的技术博主1 小时前
MySQL 三大日志协同机制:redo log、undo log 与 binlog 的联合运作
数据库·mysql·oracle
不爱编程的小九九2 小时前
小九源码-springboot004-springboot智能阅读推荐系统
java·spring boot·后端
ltl2 小时前
ClickHouse 与 DuckDB 选型:不是同一类列存
数据库
ltl2 小时前
RocksDB WAL 与 WriteBatch:持久化与原子批写
数据库
ltl2 小时前
流批一体与增量视图:Materialize、RisingWave 与 DBSP
数据库
ltl2 小时前
向量混合检索与标量过滤:表达式、bitset 与选择度
数据库