spark写数据库用连接池找不到driver类

最近遇到一个很离谱的bug,在写spark代码把数据写到mysql的时候考虑到连接的开销,所以用了HikariCP连接池,但是无语的是程序执行死活加载不到mysql的Driver类,但是解压了jar看到mysql-conn包就在lib下面,版本也是5.x的没问题,还尝试了--jars,也没解决,倒腾了各种方式,网上也查到确实有人复现这个问题---》百度EMR spark

最终灵光一闪,想到写原生Java的jdbc需要手动class-load一下,所以就在想也给连接池手动load一下是否可行,最终测试发现会类冲突。到此想到难道连接池和spark调用jdbc的类加载逻辑不一样?就想到一个妖点子,把mysql-driver包放在了spark的jars资源路径里面,当作引擎的class资源,果然运行之后问题就解决了。

相关推荐
坚定信念,勇往无前1 小时前
mongodb的日志分割
数据库·mongodb
oradh5 小时前
Oracle TX 锁 Mode 4(Share)问题排查总结
数据库·oracle·tx 锁 mode 4·oracle tx 锁
yi.Ist5 小时前
数据定义语言-DDL操作
数据库·学习·mysql·oracle·大海豚
richdata5 小时前
商品数字化不是先做大数据,而是先把数据变成可用决策
大数据·运维·数据治理·商品数字化·智能补货·ai商品决策
2601_963282777 小时前
工程项目、政企采购为什么优先选择对讲机批量采购?
数据库
极新7 小时前
中国机器人已出海至141国,售后服务正成为新的机会
大数据·人工智能·机器人
Doraemomo7 小时前
SQLite数据库
数据库·sqlite
云贝教育-郑老师7 小时前
MySQL 的“黑匣子“:Performance Schema 把数据库内部变成一张可查的表
数据库·mysql
AI_yangxi7 小时前
靠谱的短视频矩阵系统
大数据·人工智能·矩阵
czxxxc7 小时前
知识服务迎来 AI 变革,创客匠人 AI 智能体破解创作者运营难题
大数据·人工智能