HiveServer2负载均衡

有多个HiveServer2服务时,可以借助Zookeeper服务实现访问HiveServer2的负载均衡,将HiveServer2的压力分担到多个节点上去。本文详细介绍HiveServer2负载均衡的配置及使用方法,请根据EMR集群(普通集群和Kerberos集群)的实际情况进行选择。

hive.server2.support.dynamic.service.discovery

设置为ture

在zooperker要创建相应的zooKeeperNamespace并赋权

复制代码
create /hiveserver2 world:anyone:cdrwa

还有一些其他的配置参数:

复制代码
编辑hive-site.xml

<property>
    <name>spark.deploy.recoveryMode</name>
    <value>ZOOKEEPER</value>
 </property-->
<!--设置hiveserve支持动态-->

<property>
	<name>hive.server2.support.dynamic.service.discovery</name>
	<value>true</value>
</property>

<!--设置hiveserver2的命名空间-->

<property>
<name>hive.server2.zookeeper.namespace</name>
<value>hiveserver2_zk</value>
</property>

<!--设置zk集群的客户端地址-->
<property>
<name>hive.zookeeper.quorum</name>
<value>node5:2181,node4:2181,node3:2181</value>
</property>

<!--指定zk的端口,这个是否可以去掉,因为上一步已经配置了端口,由于时间关系,我没有做测试,有兴趣可以测试一下-->
<property>
<name>hive.zookeeper.client.port</name>
<value>2181</value>
</property>

<!--指定hive.server2.thrift.bind.host-->
<property>
<name>hive.server2.thrift.bind.host</name>
<value>0.0.0.0</value>
</property>
<property>
<name>hive.server2.thrift.port</name>
<value>10000</value> //两个HiveServer2实例的端口号要一致
</property>

重启hive服务

就可以去进行连接连接的测试

beeline -u 'jdbc:hive2://master-1-1:2181,master-1-2:2181,master-1-3:2181/;serviceDiscoveryMode=zooKeeper;zooKeeperNamespace=hiveserver2'

相关推荐
小池先生20 分钟前
服务请求出现偶发超时问题,经查服务本身没问题,问题出现在nginx转发。
运维·服务器·nginx
java_logo28 分钟前
vllm-openai Docker 部署手册
运维·人工智能·docker·ai·容器
MANONGMN39 分钟前
Linux 通配符与正则表达式(含实战案例+避坑指南)
linux·运维·正则表达式
勤源科技1 小时前
运维知识图谱的构建与应用
运维·人工智能·知识图谱
jiyuzzz1 小时前
Docker部署WordPress及相关配置
运维·docker·容器
还不秃顶的计科生3 小时前
linux下conda未安装的解决方法(离线安装linux下的conda)
linux·运维·服务器
爱学习饼4 小时前
CentOS下安装配置JDK24和tomcat11
linux·运维·centos
Super Rookie4 小时前
Tomcat 自动化脚本安装方案
运维·tomcat·自动化
qinxue7224 小时前
Jenkins自动化配置--CICD流水线
运维·自动化·jenkins
wanhengidc6 小时前
什么是站群服务器
运维·服务器·网络·游戏·智能手机