HDFS文件删除后,HIVE元数据还存在的问题

一.背景

手动在hdfs上删除了一个表的分区数据(inc_day=2023-08-30),当查询这个表这个分区的数据时报错文件不存在

二.原因

即HDFS数据删除了,但是hive metastore元数据却没有更新,使用show partitions tablename 发现该分区还存在

三.解决办法

  • 查阅资料发现hive的msck命令只能修复新增的分区

    msck repair table tablename;

  • 可以使用以下命令解决

    alter table tableneme drop partition(inc_day='2023-08-30')
    对应有条件清理对应分区的,可以使用规则判断,或者正则
    alter table tableneme partition(inc_day < '2023-08-30')

相关推荐
橘子编程18 小时前
Hive大数据实战指南:从入门到精通
大数据·hive·hadoop
仗剑_走天涯19 小时前
hadoop 执行mr任务出现找不到主类或无法加载主类解决方案
hadoop·mr
橘子编程1 天前
Apache Hadoop知识全解析
大数据·hive·hadoop·apache
dovens1 天前
Spring Boot 从 2.7.x 升级到 3.3注意事项
数据库·hive·spring boot
顧棟1 天前
HDFS2.X升级3.X案例与相关Issue
大数据·hadoop·hdfs
小跘an吻纸2 天前
linux系统搭建hadoop环境
linux·运维·hadoop
源码之家2 天前
计算机毕业设计:Python汽车销量智能分析与预测系统 Flask框架 scikit-learn 可视化 requests爬虫 AI 大模型(建议收藏)✅
人工智能·hadoop·python·算法·数据分析·flask·课程设计
极光代码工作室2 天前
基于Spark的用户行为分析系统设计
大数据·hadoop·python·数据分析·数据可视化
chunyublog2 天前
HBase 2.4.18 分布式集群搭建教程(适配 Hadoop 3.3.4 + ZooKeeper 3.5.6)
hadoop·分布式·hbase
ClouderaHadoop3 天前
漏洞扫描发现 Solr CVE-2017-12629 对 CDH 集群影响分析
hadoop·solr·lucene·cdh