pyspark3.5给paimon1.2的表打tag报错 spark_catalog is not a ProcedureCatalog

执行 spark.sql("CALL sys.create_tag(`table` => 'pipeline.bigdata_biz.tb1', tag => 'tag_${last1day_dt}')" )

报错:

java.lang.RuntimeException: spark_catalog is not a ProcedureCatalog.

at org.apache.paimon.spark.catalyst.analysis.PaimonProcedureResolver$CatalogValidator.asProcedureCatalog(PaimonProcedureResolver.scala:237)

at org.apache.paimon.spark.catalyst.analysis.PaimonProcedureResolver$$anonfunapply1.applyOrElse(PaimonProcedureResolver.scala:54)

at org.apache.paimon.spark.catalyst.analysis.PaimonProcedureResolver$$anonfunapply1.applyOrElse(PaimonProcedureResolver.scala:52)

at org.apache.spark.sql.catalyst.plans.logical.AnalysisHelper.anonfunresolveOperatorsDownWithPruning$2(AnalysisHelper.scala:170)

at org.apache.spark.sql.catalyst.trees.CurrentOrigin$.withOrigin(origin.scala:76)

解决方法

即打tag前必须切换到表所在的catalog

spark.sql("refresh table pipeline.bigdata_biz.tb1")

spark.sql("use pipeline") # 不切catalog 无法打tag

spark.sql("CALL sys.create_tag(`table` => 'pipeline.bigdata_biz.tb1', tag => 'tag_${last1day_dt}')" )

相关推荐
大大大大晴天3 天前
Hudi技术内幕:RecordPayload到RecordMerger
大数据
SelectDB4 天前
秒级弹性、最高降本 70%:SelectDB Serverless 如何重塑云数仓资源效率
大数据·后端·云原生
WhoAmI4 天前
MapReduce框架原理解析一:InputFormat
大数据·hadoop
WhoAmI4 天前
MapReduce框架原理解析三:OutputFormat
大数据·hadoop
WhoAmI4 天前
MapReduce框架原理解析二:Shuffle
大数据·hadoop
大大大大晴天5 天前
Hudi技术内幕:Key Generation原理与实践
大数据
得物技术8 天前
从埋点需求到规则资产:Hermes Agent 重构得物数仓工作流
大数据·llm·ai编程
久美子8 天前
AI驱动数仓建设的Harness工程实践——本体建模、知识分层与上下文工程
大数据
大树889 天前
金刚石散热越强,管路越先见顶
大数据·运维·服务器·人工智能·ai
大志哥1239 天前
ES和Logstash日志链路系统上线后遭遇切片爆炸(解决)
大数据·elasticsearch