基于Hadoop平台的电信客服数据的处理与分析③项目开发:搭建基于Hadoop的全分布式集群---任务3:配置SSH免密码连接

任务描述

Hadoop分布式集群是由多个节点组成,各节点之间需要通过网络访问,如果每次都需要输入密码,非常不方便,所以可以考虑设置各节点之间免密码连接。

任务的内容为在各个节点配置SSH,生成密钥对,然后再将公钥分发到所有节点,这样就可以实现各节点之间的免密码连通了。

任务指导

Hadoop集群中Master类型的节点需要远程管理Slaver类型的节点,所以需要配置集群各节点能够尽心免密码登陆, 在Hadoop集群中通过SSH服务对集群中的节点进行管理。

首先要确定Linux已经安装了SSH服务,在各节点生成相应的密钥将生成的公钥拷贝到各个节点。

任务实现

如果你的Linux没有安装SSH,请首先安装SSH。

  • Ubuntu下安装SSH地址为sudo apt-get install openssh-server;
  • Fedora下安装SSH地址为yum install openssh-server。

总体思路,准备主从服务器,配置主服务器可以无密码SSH登录从服务器。

1. 网络环境中 CentOS7的 地址和主机名配置

网络环境需要3台CentOS7 64位机器,IP地址和主机名如下:

复制代码
192.168.1.245 master1
192.168.1.246 slave1
192.168.1.247 slave2

2. 配置SSH免密码

SSH免密码登录,因为Hadoop需要通过SSH登录到各个节点进行操作,每台服务器都生成公钥,再合并到authorized_keys。

输入命令【ssh-keygen -t rsa】生成密钥对,一直回车,都不输入密码,在/root目录会生成 .ssh 文件夹,每台服务器都要设置。

合并公钥到authorized_keys文件,在【master1】服务器,进入/root/.ssh目录,使用SSH命令合并,如下所示:

复制代码
# ssh root@master1 cat /root/.ssh/id_rsa.pub >> authorized_keys
# ssh root@slave1 cat /root/.ssh/id_rsa.pub >> authorized_keys
# ssh root@slave2 cat /root/.ssh/id_rsa.pub >> authorized_keys

将master1服务器上/root/.ssh/目录下的authorized_keys、known_hosts复制到其它服务器的/root/.ssh目录中,如使用【scp /root/.ssh/authorized_keys root@slave1:/root/.ssh/】命令将authorized_keys文件拷贝到slave1服务器的/root/.ssh/目录下。

可以使用SSH命令连接其它节点。例如:ssh root@slave1

在第一次请求连接时需要输入一次密码,以后就不需要再输入密码了。使用【exit】命令退出SSH连接。

相关推荐
熊猫钓鱼>_>6 分钟前
智能革命的巨浪——AI时代的社会重构与生存之道
大数据·人工智能·重构·架构·llm·agent·ai-native
风向决定发型d7826 分钟前
电商素材乱找不着,怎么用AI高效整理复用?
大数据
百胜软件@百胜软件8 分钟前
维达×百胜软件E3+订单协同平台项目正式启动,共筑智能履约新标杆
大数据·人工智能
江畔柳前堤28 分钟前
第15章:docker故障排查与面试题
大数据·运维·git·elasticsearch·docker·容器·eureka
洪恒远29 分钟前
Windows 配置 Gerrit SSH Key
运维·ssh
2601_956865771 小时前
AI企业内训的“效果转化”密码:从“学AI”到“用AI”的机构能力拆解
大数据·人工智能
A-刘晨阳1 小时前
关键基础设施安全底座:自主可控时序大模型TimechoAI的国产化实践与深度时序分析能力
大数据·数据库·安全·时序数据库
武子康1 小时前
调查研究-212 智谱 ZCode Harness for GLM-5.2:国产 Coding Agent 从“模型能力“走向“工程执行环境“
大数据·人工智能·深度学习·llm·claude·glm·智谱
隔窗听雨眠1 小时前
拓宽智能体跑道:亚马逊云科技AgentCore Runtime配额升级背后的基础设施逻辑
大数据·人工智能·科技
2601_962440841 小时前
计算机毕业设计之jsp教室管理系统
java·开发语言·笔记·分布式·算法·课程设计·推荐算法