spark写数据库用连接池找不到driver类

最近遇到一个很离谱的bug,在写spark代码把数据写到mysql的时候考虑到连接的开销,所以用了HikariCP连接池,但是无语的是程序执行死活加载不到mysql的Driver类,但是解压了jar看到mysql-conn包就在lib下面,版本也是5.x的没问题,还尝试了--jars,也没解决,倒腾了各种方式,网上也查到确实有人复现这个问题---》百度EMR spark

最终灵光一闪,想到写原生Java的jdbc需要手动class-load一下,所以就在想也给连接池手动load一下是否可行,最终测试发现会类冲突。到此想到难道连接池和spark调用jdbc的类加载逻辑不一样?就想到一个妖点子,把mysql-driver包放在了spark的jars资源路径里面,当作引擎的class资源,果然运行之后问题就解决了。

相关推荐
会编程的土豆14 分钟前
数据库范式
数据库·oracle
L16247616 分钟前
MySQL 全环境生产快速安装 + 完整配置手册(整合国产银河麒麟适配 + 主从补充版)
数据库·mysql
yio_yin20 分钟前
Spring事务管理(数据一致性)
数据库·sql·spring
小稻穗26 分钟前
市场调研样本选型坐标系:2026六家国内样本平台能力横向校验
大数据·运维·数据分析
极光代码工作室42 分钟前
基于Spark的日志监控与分析平台
大数据·hadoop·python·spark·数据可视化
前端世界1 小时前
MySQL 基础入门(学习第4天)——约束与 DML 操作详解
数据库·学习·mysql
wuhanzhanhui1 小时前
从高强钢到碳纤维!2026武汉汽车材料轻量化制造技术展会,重塑未来造车新范式
大数据·汽车·制造
lupai2 小时前
手机在网状态查询 API 新手实战指南
大数据·python·智能手机
nianniannnn2 小时前
Qt QMessageBox知识点
开发语言·数据库·qt
—Miss. Z—2 小时前
计算机二级MySQL——简单应用题(存储过程&存储函数)
数据库·oracle·php