pyspark3.5给paimon1.2的表打tag报错 spark_catalog is not a ProcedureCatalog

执行 spark.sql("CALL sys.create_tag(`table` => 'pipeline.bigdata_biz.tb1', tag => 'tag_${last1day_dt}')" )

报错:

java.lang.RuntimeException: spark_catalog is not a ProcedureCatalog.

at org.apache.paimon.spark.catalyst.analysis.PaimonProcedureResolver$CatalogValidator.asProcedureCatalog(PaimonProcedureResolver.scala:237)

at org.apache.paimon.spark.catalyst.analysis.PaimonProcedureResolver$$anonfunapply1.applyOrElse(PaimonProcedureResolver.scala:54)

at org.apache.paimon.spark.catalyst.analysis.PaimonProcedureResolver$$anonfunapply1.applyOrElse(PaimonProcedureResolver.scala:52)

at org.apache.spark.sql.catalyst.plans.logical.AnalysisHelper.anonfunresolveOperatorsDownWithPruning$2(AnalysisHelper.scala:170)

at org.apache.spark.sql.catalyst.trees.CurrentOrigin$.withOrigin(origin.scala:76)

解决方法

即打tag前必须切换到表所在的catalog

spark.sql("refresh table pipeline.bigdata_biz.tb1")

spark.sql("use pipeline") # 不切catalog 无法打tag

spark.sql("CALL sys.create_tag(`table` => 'pipeline.bigdata_biz.tb1', tag => 'tag_${last1day_dt}')" )

相关推荐
稚辉君.MCA_P8_Java1 小时前
Gemini永久会员 Hadoop分布式计算框架MapReduce
大数据·hadoop·分布式·架构·mapreduce
路边草随风1 小时前
使用SparkLauncher发布k8s作业
云原生·容器·spark·kubernetes
资深低代码开发平台专家1 小时前
通用编程时代正在向专用化分层演进
java·大数据·c语言·c++·python
士心凡2 小时前
数据仓库教程
大数据·数据仓库·spark
会编程的李较瘦2 小时前
Spark SQL 窗口函数全面解析:概念、语法与实战案例
大数据·spark
武子康2 小时前
大数据-174 Elasticsearch 查询 DSL 实战:match/match_phrase/query_string/multi_match 全解析
大数据·后端·elasticsearch
源码技术栈2 小时前
Java智能诊所管理系统源码 SaaS云门诊运维平台源码
java·大数据·运维·人工智能·源码·诊所·门诊
CrazyClaz2 小时前
分布式事务专题4
分布式·分布式事务
金融小师妹2 小时前
机器学习驱动分析:ADP就业数据异常波动,AI模型预测12月降息概率达89%
大数据·人工智能·深度学习·编辑器·1024程序员节