spark.sql报错

报错如下:

核心报错:Another instance of Derby may have already booted the database /root/metastore_db

Spark 默认内置 Derby 数据库来存放 Hive 元数据(metastore_db);Derby 是单进程数据库,只允许一个进程持有数据库锁。

上一次的 spark‑shell 没有正常关闭,后台残留 Java 进程持有了metastore_db目录下的db.lck锁文件;再次启动 Spark 尝试连接同一个 Derby 库时,获取锁失败抛出异常。

解决步骤(按顺序执行)

步骤 1:关闭所有残留 Spark 进程

运行

bash 复制代码
#查看Java进程
jps
#杀掉所有SparkSubmit / ApplicationMaster进程
kill -9 进程ID

步骤 2:删除 Derby 产生的锁文件(关键)

运行

bash 复制代码
#进入metastore_db目录删掉锁文件
cd /root/metastore_db
rm -f db.lck

db.lck就是 Derby 的进程锁文件,进程异常退出后该文件不会自动清除,导致后续启动失败。

重新执行就可以了

相关推荐
IT研究室11 分钟前
最新大数据毕业设计选题推荐-基于大数据的AI助手系统性软件缺陷评论挖掘与可视化-大数据-Spark-Hadoop-Bigdata
大数据·人工智能·课程设计
Sayai16 分钟前
Flink 日志解析任务性能优化实战:正则/Grok 预编译、Guava 缓存权重陷阱与 ES 写入隔离
java·大数据·性能优化·flink·实时计算
Elastic 中国社区官方博客18 分钟前
基于 Jina OCR v1 与 Elasticsearch 的 PDF 智能混合检索与 RAG 系统实战指南
大数据·数据库·elasticsearch·搜索引擎·ocr·jina
渣渣盟20 分钟前
Flink SQL 流批一体:从 SQL 到执行计划,优化器如何工作?
大数据·sql·flink
starzy199043 分钟前
Kafka请求进门口:Processor是怎么把请求读上来的
分布式·kafka
腾讯云大数据1 小时前
腾讯云发布一站式多模态数据处理与模型训推方案,助力Physical AI释放生产力
大数据·人工智能·云计算·腾讯云
Easy_API9 小时前
2.8万亿参数,编程反超GPT-6 Astra:Kimi K3.1 Pro把开源模型推到了哪一步
大数据·人工智能·gpt·深度学习
GlobalInfo9 小时前
2026年机器人多指灵巧手市场分析报告——涵盖行业调查、趋势分析与发展前景
大数据·人工智能·microsoft·微服务·机器人
微订校园外卖平台10 小时前
校园外卖平台选模板还是定制:架构、数据流与验收清单
大数据·架构·外卖系统·本地生活·微订
Eloudy12 小时前
Qwen2.5-14B-Instruct-AWQ 模型文件结构分析
大数据·elasticsearch·搜索引擎