Hadoop proxy user

如何理解Proxy user(包括proxy、impersonation和常见的Proxy use case)
官方文档的一些configurations及相应解释

帮助理解的两个博客:
hadoop的用户代理机制
HDFS-- Hadoop中的ProxyUser

有了上面的前置知识,接下来,我们开始理解下面这段话:

Hive 的运行依赖于 Hadoop ( HDFS 、 MapReduce 、 YARN 都依赖),同时涉及到 HDFS 文件系统的访问

所以需要配置 Hadoop 的代理用户,即设置 hadoop 用户允许代理(模拟)其它用户

即需要配置如下内容在 Hadoop 的 core-site.xml 中,并分发到其它节点,且重启 HDFS 集群

python 复制代码
# hadoop.proxyuser.hadoop.hosts第2个hadoop可以替代成你信任的并想将其设置为proxy user的用户
<property>
    <name>hadoop.proxyuser.hadoop.hosts</name>
    <value>*</value>
</property>

<property>
    <name>hadoop.proxyuser.hadoop.groups</name>
    <value>*</value>
</property>

下面这几段话解决了我的困惑(即为什么明明是Hive存在与Hadoop的依赖和交互,照理说应该配置的HIve的Proxy,但是实际上配置的却是Hadoop):

Configuring a proxy user in Hadoop allows Hive to impersonate or act

on behalf of other users when accessing HDFS (Hadoop Distributed File

System). However, this doesn't mean that Hive itself inherently has

the capability to directly impersonate other users. Instead, Hive

leverages the proxy user settings configured in Hadoop to achieve this

functionality.

When a user submits a query or job to Hive, Hive interacts with Hadoop

components such as HDFS, MapReduce, or YARN on behalf of that user.

Hive uses the configured proxy user in Hadoop to authenticate and

execute actions on behalf of the user who submitted the query. This

ensures that the user's permissions and access controls are respected

when accessing data stored in HDFS or executing tasks on the Hadoop

cluster.

In summary, while Hive doesn't have its own built-in capability to

directly impersonate other users, it can utilize the proxy user

configuration in Hadoop to achieve user impersonation for accessing

HDFS or performing tasks within the Hadoop ecosystem.

简单说,就是当一个在上述配置文件中的user(针对上述配置文件来说,是任意user),试图利用Hive去和Hadoop产生交互时(例如对HDFS中的表进行查询),Hive就会利用proxy user(针对上述配置文件来说,是hadoop)来impersonate或act on behalf of 这个user来实现和Hadoop的交互,而无需作为这些用户进行身份验证。

proxy user'features

  • 值得信赖的;少;无需身份验证
  • 要去模拟或代表其他用户的
相关推荐
clorinda8 分钟前
Hive 窗口函数详解:让数据在分组中完成排名、累计和跨行计算
数据仓库·hive·hadoop
QYR_1117 分钟前
硝基乙烷市场规模持续扩张:2032年全球销售额预计达1.96亿美元,行业前景稳步向好
大数据·人工智能
HUIBUR科技20 分钟前
多系统整合不必搭建中台:AI中枢带来轻量化数字化集成
大数据·运维·人工智能
Codiggerworld25 分钟前
寒露·Codigger
大数据·程序员·节日
GlobalInfo32 分钟前
2026年AIoT芯片及平台市场报告正式发布:市场规模、十五五趋势与产业链全景一键获取
大数据·人工智能·ai·半导体
小羊没烦恼!38 分钟前
Windows Azure Platform体验(1):Windows Azure
java·大数据·后端·python·flask·word·.net
计算机毕业设计杰瑞1 小时前
【2027大数据精品毕设】基于大数据的高频电力消耗数据可视化与分析,附源码_数据可视化_数据分析_毕设选题_开题ppt_大数据项目_文档指导
大数据·信息可视化·课程设计
此时不提桶,更待何时1 小时前
06-13-A-Kafka客户端与协议深入详解
分布式·kafka
weishuangyun11 小时前
小程序制作平台怎么选?三大平台对比!
大数据·开发语言·javascript
2601_962780911 小时前
数据科学与大数据技术跨岗投递产品运营,能力拆解与求职准备
大数据·产品运营