物联网架构之Hadoop(分布式文件系统与企业级应用)

存储;运算;管理;

HaDoop软件包;

将软件包拉取到三个节点;

关闭防火墙及内核安全机制;

然后修改三个节点的主机名;分别是node1、2、3;

再修改hosts文件,方便用主机名进行解析;

如果考虑要扩展节点,那么要在该文件中写入新添加节点的主机名和IP地址;

创建运行hadoop时所需的账户及组;

为该用户设置密码,方便后续以该用户的身份执行程序;

然后对该用户进行单独设置权限;

然后再把java环境拉入到三个主机;

然后安装该软件包;

默认会安装到该路径下;

然后添加全局变量文件;

使得系统能够识别到jdk的环境;

重载一下文件,并测试;

以hsuser的身份登录进去,然后生成免密登录的密钥对;

仅在101主机上执行即可;

保持默认到最后即可;

然后拷贝到其他节点;

将hadoop的安装包,拷贝到hduser的家目录,并切换到该用户下进行解压;

将hadoop的命令追加到全局变量文件中;

另外两个节点以同样的方式写入即可;

然后查看hadoop的配置文件,首先以hduser的身份登录进入到解压目录下的etc;

该文件中写的是从节点(DataNode)的主机名;

如果要扩展的话,这个文件也是必改项;

下一个;

写入描黑的语句;管理主机的主机名及端口,和缓存目录的路径等信息;

输入一下描黑的信息;

然后将描黑的模版文件拷贝成可以使用的文件;

这个文件中定义的是yarn组件的信息;

该文件中定义yarn的进程要运行在哪个节点上;

然后以scp的方式拷贝给其他节点的相同位置下;

将hadoop进行一个初始化,进入到解压目录下的bin下;

然后启动hadoop;

然后验证一下;

正产情况下是要显示三行的内容的;

启动yarn组件;

查看报告内容;

hadoop为用户提供了web管理界面,再次验证;

注意指定端口:50070;

然后对hadoop进行性能测试;

创建一个测试用的目录,然后在生成测试文件;

然后进入到解压目录,将所有的组件都启动起来;

用该语句创建目录;

注意该目录没有创建在本机,是创建另外的一个存储区域、(hdfs);

然后再将创建的测试文件上传到该目录下;

然后可以查看该目录下的文件;

要求能够看到文件的内容;

使用以下语句进行字符统计;

相关推荐
Q264336502317 小时前
【有源码】基于Hadoop+Spark的起点小说网大数据可视化分析系统-基于Python大数据生态的网络文学数据挖掘与可视化系统
大数据·hadoop·python·信息可视化·数据分析·spark·毕业设计
观望过往17 小时前
Spring Boot 集成 EMQ X 4.0 完整技术指南
java·spring boot·后端·emqx
ml魔力信息17 小时前
一枚指纹,开启工业IoT设备安全与权限分级实践
java·物联网·安全
常先森18 小时前
【解密源码】 RAGFlow 切分最佳实践- naive parser 语义切块(excel & csv & txt 篇)
架构·llm·agent
会飞的小蛮猪18 小时前
SkyWalking运维之路(Java探针接入)
java·运维·经验分享·容器·skywalking
通域18 小时前
解决启动IDEA后CPU 及内存占用过高配置调整
java·ide·intellij-idea
一袋米扛几楼9818 小时前
【软件安全】C语言特性 (C Language Characteristics)
java·c语言·安全
m0_7482480219 小时前
《详解 C++ Date 类的设计与实现:从运算符重载到功能测试》
java·开发语言·c++·算法
aloha_78919 小时前
测试开发工程师面经准备(sxf)
java·python·leetcode·压力测试
我命由我1234519 小时前
Java 并发编程 - Delay(Delayed 概述、Delayed 实现、Delayed 使用、Delay 缓存实现、Delayed 延迟获取数据实现)
java·开发语言·后端·缓存·java-ee·intellij-idea·intellij idea