Spark(5)host配置

(一.)host配置的作用:
hosts 文件是一个本地的文本文件,它的作用是将主机名映射到对应的 IP 地址,在 DNS(域名系统)解析之前,系统会先查询 hosts 文件来确定目标主机的 IP 地址。

为什么我们需要 修改本地的hosts映射

现在我们可以通过finalshell这个工具来连接我们的远程服务器,不过我们连接主机的时候,需要填入对方的ip地址 ,这个很麻烦。你可以想象一下我们到时候要连接100台服务器,那这100个ip地址是不是很不好记忆?

所以,我们需要直接使用hostname的方式来访问主机,而不需要再使用IP地址了。

)修改本地的hosts映射

hosts文件是一个没有后缀名的文本文件,它记录了本机在访问域名时的映射表。需要管理员权限才能去修改它。我们的操作有两个步骤:第一,修改hosts配置,第二使用ping命令来检查

步骤 1. 修改hosts文件

如果是win11,它在Windows/system32/hosts 文件,如果是win10,它在C:\Windows\System32\drivers\etc\hosts。

我们打开这个文件,并在最后一行的后边,添加三个新行,内容是:

192.168.10.100 hadoop100
192.168.10.101 hadoop101

192.168.10.102 hadoop102

请注意:

  1. ip地址和主机名之间有一个空格
  2. 如果你的电脑不允许你保存,你需要使用管理员权限。

步骤2:验收结果

修改成功之后,可以通过ping或finalshell连接这两种方式来测试,是否修改成功。具体操作如下:

测试方式1:用 ping hadoop100或者是ping 192.168.10.100都应该可以通。

测试方式2:finalshell新建一个连接,并使用hadoop100这个主机名来连接。

)配置 虚拟机的 yum

Yum是一个linux工具,用来从网络上下载安装软件到linux操作系统中,在此之前,我们先要确保虚拟机的网络是通畅的。


下面来介绍常见的操作:

(1)查看源

yum中的源是指它下载软件的地址。把虚拟机上的软件yum想象成你自己开的一家商场,那么yum的源就是你的供货商。通过yum repolist 命令可以去查看当前的供货商信息。

yum repolist

如果显示源信息是mirrorlist.centos.org(默认源),那就不能使用了。这个源已经失效了,就是你的默认供货商跑路了! 我们必须要去切换一个源

(2)配置源

我们需要更换一个供货商,以便能正常下载软件。网络上的免费而稳定的源有很多,这里我们选择阿里云的源。

具体的命令是:

sudo curl -o /etc/yum.repos.d/CentOS-Base.repo https://mirrors.aliyun.com/repo/Centos-7.repo

它其实是覆盖了centos-base.repo这个文件。(yum 修改阿里云)

(3)再清空缓存,让配置生效

对应的命令是:

sudo yum clean all

sudo yum makecache

(4)测试是否配置成功。

下载一个常见工具试一试,如果能下载成功, 就证明这个操作完成了。

yum install tree

使用yum 安装必备工具

上一步我们配置了yum,接下来我们就可以使用它来去安装一些基础工具。

(1)安装epel-release

Extra Packages for Enterprise Linux是为"红帽系"的操作系统提供额外的软件包,适用于RHEL、CentOS和Scientific Linux。相当于是一个软件仓库,大多数rpm包在官方 repository 中是找不到的)

yum install -y epel-release

(2)安装net-tool

net-tool:工具包集合,包含ifconfig等命令

yum install -y net-tools

(3)安装 vim:编辑器。它是一个增强版的vi编辑器。

yum install -y vim

(4)安装rsync。它可以用来和其他的服务器之间保持文件同步

yum install -y rsync

(六) 修改虚拟机的本机名

默认情况下,本机的名称叫:localhost。 我们进入linux系统之后,显示出来的就是****[root@localhost ~]#****

为了方便后面我们更加便捷地访问这台主机,而不是通过ip地址,我们要重新给他取个名字。

具体的操作是打开/etc/hostname这个文件,并修改其中的内容。命令是:

vi /etc/hostname

使用vi修改之后,:wq保存退出,我这里改成了hadoop100,大家可以自行修改。

重新启动虚拟机(命令是:reboot)才能生效!你看到的就是:[root@hadoop100 ~]#

(四) 修改虚拟机的hosts配置

把虚拟机上的hosts文件修改一下。

vi /etc/hosts

修改内容如下:

192.168.10.100 hadoop100

192.168.10.101 hadoop101

192.168.10.102 hadoop103

设置3台机器,分别设置ip地址和对应的主机名

相关推荐
月亮给我抄代码5 分钟前
Flink性能指标详解MetricsAnalysis
大数据·flink
橘猫云计算机设计26 分钟前
基于微信小程序的疫情互助平台(源码+lw+部署文档+讲解),源码可白嫖!
java·大数据·开发语言·spring boot·微信小程序·小程序·汽车
冰火同学1 小时前
简述Spark的宽窄依赖以及Stage是怎么划分的以及每个stage又是怎么划分task任务数
大数据·分布式·spark
weixin_307779131 小时前
PySpark实现获取Cloud Storage上Parquet文件的数据结构,并自动在Google BigQuery里建表和生成对应的建表和导入数据的SQL
数据仓库·python·spark·云计算·googlecloud
尘世壹俗人1 小时前
spark写数据库用连接池找不到driver类
大数据·数据库·spark
Dragon--Z2 小时前
本地部署大数据集群前置准备
大数据·linux·服务器
leafseelight2 小时前
CentOS 7 安装配置 kafka,并配置开机自启
linux·kafka·centos
caihuayuan52 小时前
Golang的图形用户界面设计
java·大数据·spring boot·后端·课程设计
红队it3 小时前
【Spark+Hive】基于Spark大数据技术小红书舆情分析可视化预测系统(完整系统源码+数据库+开发笔记+详细部署教程+虚拟机分布式启动教程)✅
大数据·hive·分布式·spark
007php0073 小时前
企微审批中MySQL字段TEXT类型被截断的排查与修复实践
大数据·开发语言·数据库·后端·mysql·重构·golang