11 配置Hadoop集群-免密登录

第一课时

一、 复习 导入

前面的课程中我们在虚拟机上安装并测试使用了hadoop的示例程序wordcount,并且在准备好了集群的同步工具,那接下来,我们就可去配置hadoop集群了。

二、授新

(一)认识 ssh命令

SSH(Secure Shell)命令是一种用于通过加密协议安全地连接到远程服务器的工具。它广泛应用于远程登录、文件传输和命令执行等场景。

它最基本的用法是连接到远程服务器,格式如:

ssh 用户名@主机名

例如:我们先登录hadoop100,然后去登录到hadoop101。命令是:

ssh root@hadoop101

注意:如果这里报错: unkown host name。请重新设置hosts。

(二) ssh无密登录

使用ssh去登录其他主机的时候,会要求输入密码,如何让不要每次都输入密码呢?这就是所谓的免密登录。

实操案例

我们希望达成的目标是:希望用户在hadoop100登录到hadoop101时,hadoop101不需要输入密码。

核心步骤

  1. 在hadoop100上 生成密钥对。
  2. 把hadoop100的公钥发到hadoop101上。
  3. 在hadoop100上登录hadoop101,验证效果。

具体操作

  1. 登录 hadoop100。使用finalshell连接。
  2. 在hadoop100上,运行命令:ssh-keygen -t rsa。然后根据提示连续敲入三个回车。这个命令就会生成一对公钥和私钥,那它们具体在哪,长得什么样子呢? 它会在当前用户目录(/root)下生成一个.ssh的文件夹,并创建了两个文件。如下所示:


这里的id_rsa就是私钥,id_rsa.pub就是公钥。可以使用cat 命令去查看一下内容。

  1. 将公钥拷贝到hadoop101上。 这里专门有一个命令ssh-copy-id。它的格式是: ssh-copy-id 目标机器。所以这里我们输入命令:

ssh-copy-id 101

(4)在hadoop100上,输入ssh hadoop101命令,看看是否可以免密登录?

++++请开始实操,让三台机器之间都可以无密登录。++++

( 三 ) ssh相关文件介绍

接下来我们去具体看看.ssh相关的文件,以便更加深入的了解它的工作过程。

.ssh文件夹下(~/.ssh)的文件功能解释:

|-----------------|----------------------------|
| known_hosts | 记录ssh访问过计算机的公钥(public key) |
| id_rsa | 生成的私钥 |
| id_rsa.pub | 生成的公钥 |
| authorized_keys | 存放授权过的无密登录服务器公钥 |

(四)集群免密操作

目前我们有三台机器,它们之间相互访问都应该不需要输入密码。特别要注意的是自己登录自己也需要做免密配置。

例如: 在hadoop100上,也需要去设置针对它自己的免密登录。

所以,对于hadoop100来说,它要生成公钥,并拷贝到hadoop100, hadoop101, hadoop102上去。 对应的命令如下:

ssh-keygen -t rsa

输入三次回车确认

ssh-copy-id hadoop100

ssh-copy-id hadoop101

ssh-copy-id hadoop102
其他的两台机器也要同样处理。

(五) 运行异常排查

如果在finalshell中不能通过主机名来连接对应的虚拟机,请按如下步骤去检查:

  1. 本机的hosts文件是否正确修改。C:\Windows\System32\drivers\etc
  2. hosts文件中的主机名和ip地址是否与finalshell中的连接的主机名以及对应的虚拟机上的ip地址一致。
  3. 虚拟机是否正确开启。
  4. 虚拟机的ip是否正确设置。ip addr 命令可以查看
  5. 虚拟机是否可以正常ping www.baidu.com
  6. 本地控制面板,网络设置,vmnet8是否正常设置
  7. 本地服务:vmware是否正常运行

三、课堂小结

通过本堂课的学习,我们学习了ssh无密登录,并且成功地配置了hadoop集群环境。

四、实训内容

任务1:三台设备之间无密登录

目标:hadoop100通过ssh访问hadoop101,hadoop102时不需要密码,其他两台设备也类似。

操作:

  1. hadoop100 无密登录hadoop101,hadoop102
    • 在hadoop100中生成公钥和密码。ssh-keygen -t rsa 三次回车
    • 在hadoop100中,把自己的公钥传递给hadoop101,hadoop102。
    • ssh-copy-id hadoop101
    • ssh-copy-id hadoop102
  2. hadoop101 无密登录 hadoop100,hadoop102 与(1)类似
  3. hadoop102 无密登录 hadoop100,hadoop101 与(1)类似
相关推荐
逛逛GitHub2 小时前
把你的 AirPods 当鼠标用,这 3 个黑科技 GitHub 开源项目有趣。
github
喵个咪4 小时前
GoWind Admin 拆解:BI 大屏设计器——schema 即 JSON、resolver 注入与三张快照表的口径谱系
大数据·后端·go
徐小夕5 小时前
开源Vector-Graph-RAG:向量+图谱双引擎,打破纯向量RAG的效果天花板
前端·vue.js·github
GitHub实测笔记5 小时前
zoxide 本机实测:一万条记查询中 5.7ms0.10 版 import --from
github
武子康5 小时前
H3-World 的 11.3 小时训练数据,是怎样对齐成动作监督的?
大数据·人工智能·深度学习
字节跳动数据平台6 小时前
火山引擎知识引擎VeKnow进化之路(下):让 AI 智能体更可用、更可信、更懂业务
大数据
Elastic 中国社区官方博客6 小时前
更少的位数,相同的召回率:DiskBBQ 更保守的自动校准扫描
大数据·运维·开发语言·人工智能·elasticsearch·搜索引擎
MyBili7 小时前
Chrome隐私安全配置:完整防护指南
大数据·chrome·谷歌浏览器·隐私安全·浏览器防护·cookie管理·上网痕迹清理
真上帝的左手7 小时前
19. 大数据-数据同步-工具
大数据·数据同步
Brookty7 小时前
Git与GitHub系统学习|本地Git工作模型:终端与进程、CWD、HEAD/Index/工作树及Git对象
git·github