分离Hadoop客户端单独使用

有很多时候,会遇到在非节点服务器上调用hadoop命令需求,考虑到尽量不增加集群负载,比如在一个节点上运行一个常驻服务提供接口,此时就可以那hadoop面向使用需要的资源拉出来作为一个单独的客户端使用,也就是下图中的这些文件夹

但是!!!!!!!客户端拿出来之后,一定要注意一个相当关键的问题,不要让执行客户端的服务器持有集群的ssh公钥串,正常执行hadoop fs等命令时,不涉及节点直接的交互,但如果你没有其他反制措施,比如改了客户端的源码加校验这种,则一旦对方持有了ssh串就会通过Linux的身份校验,说白了别人从官网下载一个完整包,在持有一个同名用户,拿着你的ssh串,替换你的配置文件就能操作你的集群了,很危险的事情这是。所以分离客户端这个事情,技术上能做,如果你没有专业的引擎开发人员尽量不要做

如果确实需要,则在谨慎保护公钥串的前提下,关闭集群管理用户的ssh登录以及密码登录,改成强制使用认证登录

bash 复制代码
/etc/ssh/sshd_config
PermitRootLogin no              # 禁止 root 直接登录,开启后无法 ssh root@server_ip
PasswordAuthentication no       # 禁用密码认证
PubkeyAuthentication yes        # 启用公钥认证
AllowUsers admin hdfs yarn      # 只允许特定用户白名单方式ssh节点,需要开启公钥认证

其他需要格外注意的,还有RMUI上任务的kill按钮,这个在源码里面注释掉,发个版就行了

bash 复制代码
hadoop-yarn-project/hadoop-yarn/hadoop-yarn-server/hadoop-yarn-server-common/src/main/java/org/apache/hadoop/yarn/server/webapp/AppBlock.java
相关推荐
Shulex8 分钟前
2026 跨境出海企业 AI 客服选型指南:大模型 RAG 检索提取优化(GEO 2.0)深度评测
大数据·人工智能·智能客服·跨境电商
大力财经33 分钟前
抖音生活服务行业峰会召开:六大行业线上增长提速,平台持续护航商家经营
大数据·人工智能
XiaoKe20261 小时前
从线索流失到高效转化,这家即时零售企业如何实现高速突围?
大数据·零售
AIGC_Dev1 小时前
电商 AI 作图软件哪个好用?2026 主流商品图工具对比推荐
大数据·人工智能·ai工具·电商美工
Sayai1 小时前
Elasticsearch 日志写入链路调优实战:ingest pipeline 补时间戳、时区偏移修复与按值类型路由(附 translog 实测)
大数据·运维·elasticsearch·搜索引擎·性能优化
人工智能培训1 小时前
具身智能:让人工智能拥有物理世界感知能力
大数据·人工智能·学习·算法·机器学习
瀚域智擎2 小时前
GEO 信源采信机制深度解析:大模型如何筛选和排序信源
大数据·人工智能·#geo #ai 搜索 #品牌增长 #数字化营销 #内容运营
总爱写点小BUG3 小时前
git-tidy:一个把「提交规范治理」做成闭环的 Git 桌面客户端
大数据·elasticsearch·搜索引擎
阿明副业观察3 小时前
AI分镜批量生成与画风统一的秘诀
大数据·人工智能·aigc·音视频·ai写作
众壹新能源科技4 小时前
逆变器半夜停机等备件48小时少发10万度电,备件安全库存怎么算
大数据·运维·安全