大数据-spark3.5安装部署之免密登录

spark使用standalone模式部署时,从节点要与主节点之间进行通信。如果不配置免密登录,启动时会提示输入密码,很可能造成从节点没有成功启动;启动后当主从节点要互相访问时,依然需要密码,这时肯定失败,例如web查看时只看到一个主节点自身的worker。

节点互访存在于主从之间,从从之间不存在。

免密登录配置过程如下

查询是否安装了openssh-server,ii表示已安装

dpkg -l | grep openssh-server

注意:也可以使用 apt list --installed | grep openssh-server

若没安装,使用 apt install openssh-server 安装。

查看ssh是否启动

systemctl status ssh

如下所示,则表示启动

主机免密登录从机

为了能够无密码登录本地主机,需要生成SSH密钥并配置免密码登录。

生成密钥对

ssh-keygen -t rsa -P "" //-t 指定生成RSA类型的密钥以及管理密钥

一直回车,会在/root/.ssh/文件夹下生成id_rsa(私有密钥)、id_rsa.pub(公有密钥)

进入目录~/.ssh,即可查看到生成的公钥、私钥文件。

将id_rsa.pub追加到authorized_keys

cat ~/.ssh/id_rsa.pub >> ~/.ssh/authorized_keys

修改/etc/ssh/sshd_config文件,让本机允许远程连接。具体如下

RSAAuthentication yes (若无则添加)

PubkeyAuthentication yes

AuthorizedKeysFile .ssh/authorized_keys

PermitRootLogin yes (配置服务器远程访问时已经设置)

重启ssh

service ssh restart

修改权限

chmod 600 ~/.ssh/authorized_keys

chmod 700 ~/.ssh

将公钥复制到从机u22server4spark2

scp ~/.ssh/id_rsa.pub root@u22server4spark2:~/.ssh/id_rsa.pub_sl

scp ~/.ssh/id_rsa.pub root@u22server4spark3:~/.ssh/id_rsa.pub_sl

登录u22server4spark2,将所传公钥添加至authorized_keys

cat id_rsa.pub_sl >> authorized_keys

验证从主机u22server4spark登录从机u22server4spark2,免密登录。

ssh root@u22server4spark2

如下所示,顺利登录,无需密码。

将公钥复制到从机u22server4spark3,按照如上处理,即可实现主机免密登录登录从机u22server4spark3。

从机免密登录主机

按照主机免密登录从机的操作步骤,分别在两个从机上操作即可。

相关推荐
FII工业富联科技服务3 分钟前
2026年AI技术发展趋势分析:从模型能力突破到工业AI的真实应用
大数据·人工智能·深度学习·机器学习·制造·ai智能体·agentic ai
一隅论数智23 分钟前
OWL(Web Ontology Language)介绍与使用举例(二)
大数据·经验分享·笔记·学习·自然语言处理·学习方法·政务
一木 之林43 分钟前
DeepSeek Agent 开发(三)
java·大数据·linux
小码哥0681 小时前
Java医院陪诊系统陪护系统陪诊小程序,三端齐全可定制
大数据·小程序·陪诊陪护·陪诊小程序·陪护系统·陪诊系统·陪护小程序
赛博守夜人3 小时前
跨境业务与出海合规之八:面向海外合规监管突击搜查(Dawn Raid)的信息安全应急响应(IR)与合规取证
大数据·数据库
你就是答案 -1484 小时前
2026 企业 AI 办公工具选型指南:匹配业务场景才是核心
大数据·人工智能
成长之路5144 小时前
【数据集】全国省市县三级逐年平均气温数据(excel+shp)1901-2024年
大数据
智圣新创015 小时前
智圣新创智慧学生社区线上服务平台 高校一站式育人场景数字化升级全域建设指南
大数据·人工智能
成旭先生5 小时前
物流燃油成本测算 API:按线路查各省市当日柴油汽油指导价
大数据·api接口·物流成本·油价查询·燃油测算·发改委价格
goujunwe5 小时前
电商品牌 GEO:让 AI 在消费者对比产品时,采信你的品牌信息
大数据·人工智能