pyspark3.5给paimon1.2的表打tag报错 spark_catalog is not a ProcedureCatalog

执行 spark.sql("CALL sys.create_tag(`table` => 'pipeline.bigdata_biz.tb1', tag => 'tag_${last1day_dt}')" )

报错:

java.lang.RuntimeException: spark_catalog is not a ProcedureCatalog.

at org.apache.paimon.spark.catalyst.analysis.PaimonProcedureResolver$CatalogValidator.asProcedureCatalog(PaimonProcedureResolver.scala:237)

at org.apache.paimon.spark.catalyst.analysis.PaimonProcedureResolver$$anonfunapply1.applyOrElse(PaimonProcedureResolver.scala:54)

at org.apache.paimon.spark.catalyst.analysis.PaimonProcedureResolver$$anonfunapply1.applyOrElse(PaimonProcedureResolver.scala:52)

at org.apache.spark.sql.catalyst.plans.logical.AnalysisHelper.anonfunresolveOperatorsDownWithPruning$2(AnalysisHelper.scala:170)

at org.apache.spark.sql.catalyst.trees.CurrentOrigin$.withOrigin(origin.scala:76)

解决方法

即打tag前必须切换到表所在的catalog

spark.sql("refresh table pipeline.bigdata_biz.tb1")

spark.sql("use pipeline") # 不切catalog 无法打tag

spark.sql("CALL sys.create_tag(`table` => 'pipeline.bigdata_biz.tb1', tag => 'tag_${last1day_dt}')" )

相关推荐
编程彩机4 小时前
互联网大厂Java面试:从Java SE到大数据场景的技术深度解析
java·大数据·spring boot·面试·spark·java se·互联网大厂
不是很大锅4 小时前
卸载TDengine
大数据·时序数据库·tdengine
qyr67895 小时前
深度解析:3D细胞培养透明化试剂供应链与主要制造商分布
大数据·人工智能·3d·市场分析·市场报告·3d细胞培养·细胞培养
2501_944934736 小时前
工业大数据方向,CDA证书和工业数据工程师证哪个更实用?
大数据
麦兜*7 小时前
深入解析现代分布式事务架构:基于Seata Saga模式与TCC模式实现金融级高可用与数据最终一致性的工程实践全解析
分布式·金融·架构
迎仔7 小时前
04-快反部队:Impala, Presto & Trino 通俗指南
大数据
BYSJMG7 小时前
计算机毕业设计选题推荐:基于大数据的肥胖风险分析与可视化系统详解
大数据·vue.js·数据挖掘·数据分析·课程设计
難釋懷8 小时前
分布式锁-redission功能介绍
分布式
yqd6668 小时前
elasticsearch
大数据·elasticsearch·搜索引擎
Leo.yuan8 小时前
经营分析会,该讲些什么?
大数据·数据库·数据分析