hive sql无法停止

排查流程

hive任务停止是调用org.apache.hive.jdbc.HiveStatement的close()方法实现的

其底层是委托给org.apache.hive.service.cli.thrift.TCLIService.Iface客户端实例来实现。

同时,通过JDK动态代理为其织入了synchronized同步机制:其底层是委托给org.apache.hive.service.cli.thrift.TCLIService.Iface客户端实例来实现。

与此同时,原运行Hive的线程也在循环中通过客户端实例来获取该Hive SQL运行状态

而synchronized锁是非公平的,因此停止Hive线程客户端可能一直无法获取对象锁,从而无法进入停止流程。因此修改HiveStatement的JDK动态代理逻辑,改为使用ReentrantLock,并将其设置为公平锁,从而客户端获取锁序列为公平的,从而让停止线程能正常获取客户端实例锁进行操作。

解决方案

按照以上思路查询源码,在高版本和低版本的客户端中都有使用ReentrantLock作为对象锁的代码,选择以上版本的客户端版本即可

相关推荐
howard20052 小时前
4.2 Hive数据表操作
hive·内部表·数据表·插入记录·查询记录
尘世壹俗人2 小时前
hadoop节点扩容和缩容操作流程
hadoop
BD_Marathon2 小时前
【Hive】复杂数据类型
数据仓库·hive·hadoop
q***31893 小时前
深入解析HDFS:定义、架构、原理、应用场景及常用命令
hadoop·hdfs·架构
好记忆不如烂笔头abc5 小时前
sql评估存储的速度和稳定性
数据库·sql
朝新_6 小时前
【实战】动态 SQL + 统一 Result + 登录校验:图书管理系统(下)
xml·java·数据库·sql·mybatis
一路向北North8 小时前
网页版预编译SQL转换工具
前端·javascript·sql
百***17078 小时前
MySQL 常用 SQL 语句大全
数据库·sql·mysql
百***65958 小时前
mysql如何发现慢查询sql
数据库·sql·mysql