HDFS文件删除后,HIVE元数据还存在的问题

一.背景

手动在hdfs上删除了一个表的分区数据(inc_day=2023-08-30),当查询这个表这个分区的数据时报错文件不存在

二.原因

即HDFS数据删除了,但是hive metastore元数据却没有更新,使用show partitions tablename 发现该分区还存在

三.解决办法

  • 查阅资料发现hive的msck命令只能修复新增的分区

    msck repair table tablename;

  • 可以使用以下命令解决

    alter table tableneme drop partition(inc_day='2023-08-30')
    对应有条件清理对应分区的,可以使用规则判断,或者正则
    alter table tableneme partition(inc_day < '2023-08-30')

相关推荐
Natural_yz5 小时前
大数据学习09之Hive基础
大数据·hive·学习
Natural_yz5 小时前
大数据学习10之Hive高级
大数据·hive·学习
不二人生6 小时前
SQL面试题——连续出现次数
hive·sql·面试
大数据魔法师6 小时前
Hadoop生态圈框架部署(六)- HBase完全分布式部署
hadoop·分布式·hbase
紫色沙8 小时前
大数据专业为什么要学习Hadoop课程
大数据·hadoop·学习
武子康11 小时前
大数据-218 Prometheus 插件 exporter 与 pushgateway 配置使用 监控服务 使用场景
大数据·hive·hadoop·flink·spark·prometheus
解怡椿13 小时前
Zookeeper的安装与使用
大数据·hadoop·zookeeper
不太灵光的程序员14 小时前
【Flume实操】实时监听 NetCat 端口和本地文件数据到 HDFS 案例分析
大数据·hdfs·flume
⚆Pearl14 小时前
【Hadoop实训】Flume系统负载均衡测试
服务器·hadoop·负载均衡·flume
Francek Chen14 小时前
【大数据技术基础 | 实验九】Flume实验:文件数据Flume至HDFS
大数据·hadoop·分布式·hdfs·flume