Hadoop 启动!

​2024/4/22

上个星期我们已经完成了Hadoop的安装及配置文件的修改 下面 我们将namenode进行一下初始化

hdfs namenode -format

(创建文件存储目录:账本目录namenode datanode的目录)

我们在配置时 这就是用来设置账本目录的

我们做完格式化后 tmp目录就出现了

9.Hadoop原理

1)datanode(程序):负责存储

文件被分成block存储在磁盘上 为保证数据安全 文件会有多个副本

在写入数据的时候 自己写一份 顺便给集群中其他地方一份 达到了备份的效果 只是做到了分布式存储 但是并没有将每一块分开的数据进行区分

那么 这个时候 我们要做一个账本

2)namenode(作账本):负责管理 管理文件(a.txt)与block之间的关系 block与datanode之间的关系

3)Secondarynamenode:账本很重要 所以账本需要备份 账本的备份

10.启动Hadoop

启动文件系统:start-dfs.sh stop-dfs.sh

启动计算系统:start-yarn.sh

问题:hadoop中有多少个进程 分别是干嘛的

11.测试

上传数据:hadoop fs -put linux文件路径 hadoop文件路径

查看:hadoop fs -ls /

192.168.38.101:50070

相关推荐
秋刀鱼 ..7 分钟前
【IEEE出版】第五届高性能计算、大数据与通信工程国际学术会议(ICHBC 2025)
大数据·人工智能·python·机器人·制造·新人首发
小王毕业啦16 分钟前
2007-2024年 地级市-公共数据开放DID
大数据·人工智能·数据挖掘·数据分析·数据统计·社科数据·实证数据
xieyan081120 分钟前
量化股票趋势的方法
大数据
Acrel150003531381 小时前
重构能源管理:Acrel EMS 3.0 让降本增效成为底层逻辑
大数据·人工智能
金融小师妹1 小时前
黄金上探4260后基于阻力位识别模型回落,本周聚焦美联储决议的LSTM-NLP联合预测
大数据·人工智能·深度学习
2501_941982051 小时前
系统集成与生态建设:将企业微信 RPA 自动化能力融入现有平台
大数据·网络
袋鼠云数栈2 小时前
AI的下半场,产业需要一个怎样的数据中台?
大数据·人工智能·数据挖掘
物流可信数据空间3 小时前
可信数据空间+数据入表:华储数据助力数据交易所破解困局,迈向规模流通
大数据
半夏知半秋4 小时前
Elasticsearch 分词器
大数据·学习·elasticsearch·搜索引擎·全文检索
Sui_Network5 小时前
BitGo 通过 LayerZero 将原生 WBTC 引入 Sui
大数据·人工智能·科技·去中心化·区块链