Hadoop 启动!

​2024/4/22

上个星期我们已经完成了Hadoop的安装及配置文件的修改 下面 我们将namenode进行一下初始化

hdfs namenode -format

(创建文件存储目录:账本目录namenode datanode的目录)

我们在配置时 这就是用来设置账本目录的

我们做完格式化后 tmp目录就出现了

9.Hadoop原理

1)datanode(程序):负责存储

文件被分成block存储在磁盘上 为保证数据安全 文件会有多个副本

在写入数据的时候 自己写一份 顺便给集群中其他地方一份 达到了备份的效果 只是做到了分布式存储 但是并没有将每一块分开的数据进行区分

那么 这个时候 我们要做一个账本

2)namenode(作账本):负责管理 管理文件(a.txt)与block之间的关系 block与datanode之间的关系

3)Secondarynamenode:账本很重要 所以账本需要备份 账本的备份

10.启动Hadoop

启动文件系统:start-dfs.sh stop-dfs.sh

启动计算系统:start-yarn.sh

问题:hadoop中有多少个进程 分别是干嘛的

11.测试

上传数据:hadoop fs -put linux文件路径 hadoop文件路径

查看:hadoop fs -ls /

192.168.38.101:50070

相关推荐
无忧智库9 小时前
智慧银行反欺诈大数据管控平台建设方案:从规则拦截到图谱智能,重构银行实时风控中枢(PPT)
大数据
湘美书院--湘美谈教育10 小时前
湘美谈教育湘美书院大湘西文学系列:AI时代的武侠小说怎么写
大数据·人工智能·深度学习·机器学习·生活
VortMall10 小时前
『平台去经营化』平台治理能力全新重构|VortMall微服务商城系统v1.3.10
java·大数据·微服务·商城系统·开源商城·vortmall·去经营化
workflower10 小时前
模型中心主义路径
大数据·人工智能·深度学习·机器学习·自动化·制造
Urbano11 小时前
卫衣全工序自动化智造科普:替代工位、设备选型与产能升级方案
大数据·人工智能·自动化
lupai11 小时前
手机空号过滤 API 新手实战指南
大数据·智能手机
嘉立创FPC苗工11 小时前
FPC 柔性线路板,解锁智能眼镜轻量化与高性能新赛道
大数据·人工智能·制造·fpc·电路板
嘻嘻的AI日记11 小时前
AI 知识库更合规:政企数据安全检索与智能应用合规体系
大数据·人工智能
xiaopai94511 小时前
从立项到回款,工程项目管理系统能管哪些流程?
大数据·建米软件·工程项目管理系统
abcy07121311 小时前
flink state实例
大数据·算法·flink