spark写数据库用连接池找不到driver类

最近遇到一个很离谱的bug,在写spark代码把数据写到mysql的时候考虑到连接的开销,所以用了HikariCP连接池,但是无语的是程序执行死活加载不到mysql的Driver类,但是解压了jar看到mysql-conn包就在lib下面,版本也是5.x的没问题,还尝试了--jars,也没解决,倒腾了各种方式,网上也查到确实有人复现这个问题---》百度EMR spark

最终灵光一闪,想到写原生Java的jdbc需要手动class-load一下,所以就在想也给连接池手动load一下是否可行,最终测试发现会类冲突。到此想到难道连接池和spark调用jdbc的类加载逻辑不一样?就想到一个妖点子,把mysql-driver包放在了spark的jars资源路径里面,当作引擎的class资源,果然运行之后问题就解决了。

相关推荐
瑞华丽PLM10 分钟前
AI+数字孪生赋能制造业数字化转型
大数据·人工智能·plm·国产plm·瑞华丽plm·瑞华丽
悟能不能悟11 分钟前
oracle date类型默认to_char会是什么形式
数据库·oracle
正在走向自律15 分钟前
国产时序数据库实战,金仓如何破解电力行业数据困局
数据库·时序数据库·电科金仓
+VX:Fegn089521 分钟前
计算机毕业设计|基于springboot + vue校园实验室管理系统(源码+数据库+文档)
数据库·vue.js·spring boot·后端·课程设计
闲人不梦卿22 分钟前
数据库之并发控制
数据库·事务
warton8827 分钟前
proxysql配置mysql mgr代理,实现读写分离
linux·运维·数据库·mysql
王九思34 分钟前
大数据查询工具Hive介绍
大数据·hive·hadoop
Coder_Boy_35 分钟前
基于SpringAI的在线考试系统-核心模块的数据模型交互关系
java·数据库·人工智能·spring boot·交互
短剑重铸之日1 小时前
7天读懂MySQL|特别篇:MVCC详解
数据库·后端·mysql·mvcc
檐下翻书1731 小时前
HR人力资源管理流程图在线绘制方法
大数据·人工智能·架构·流程图·论文笔记