spark写数据库用连接池找不到driver类

最近遇到一个很离谱的bug,在写spark代码把数据写到mysql的时候考虑到连接的开销,所以用了HikariCP连接池,但是无语的是程序执行死活加载不到mysql的Driver类,但是解压了jar看到mysql-conn包就在lib下面,版本也是5.x的没问题,还尝试了--jars,也没解决,倒腾了各种方式,网上也查到确实有人复现这个问题---》百度EMR spark

最终灵光一闪,想到写原生Java的jdbc需要手动class-load一下,所以就在想也给连接池手动load一下是否可行,最终测试发现会类冲突。到此想到难道连接池和spark调用jdbc的类加载逻辑不一样?就想到一个妖点子,把mysql-driver包放在了spark的jars资源路径里面,当作引擎的class资源,果然运行之后问题就解决了。

相关推荐
文牧之几秒前
AutoVACUUM (PostgreSQL) 与 DBMS_STATS.GATHER_DATABASE_STATS_JOB_PROC (Oracle) 对比
运维·数据库·postgresql·oracle
.Rw5 分钟前
Hadoop区别
spark
{⌐■_■}39 分钟前
【redis】redis常见数据结构及其底层,redis单线程读写效率高于多线程的理解,
数据结构·数据库·redis
Luck_ff08101 小时前
Elasticsearch 快速入门指南
大数据·elasticsearch·搜索引擎
南风与鱼1 小时前
MySQL表的操作
数据库·mysql·表操作
天天爱吃肉82181 小时前
大数据:新能源汽车宇宙的未来曲率引擎
大数据·汽车
banzhenfei2 小时前
xp_cmdshell bcp 导出文件
java·数据库·sql
CodeJourney.2 小时前
ChemBlender:科研绘图创新解决方案
数据库·人工智能·信息可视化·excel
笨蛋不要掉眼泪3 小时前
SpringAOP
java·数据库·spring·log4j
IvanCodes3 小时前
九、HQL DQL七大查询子句
大数据·数据库·hive