HDFS文件删除后,HIVE元数据还存在的问题

一.背景

手动在hdfs上删除了一个表的分区数据(inc_day=2023-08-30),当查询这个表这个分区的数据时报错文件不存在

二.原因

即HDFS数据删除了,但是hive metastore元数据却没有更新,使用show partitions tablename 发现该分区还存在

三.解决办法

  • 查阅资料发现hive的msck命令只能修复新增的分区

    msck repair table tablename;

  • 可以使用以下命令解决

    alter table tableneme drop partition(inc_day='2023-08-30')
    对应有条件清理对应分区的,可以使用规则判断,或者正则
    alter table tableneme partition(inc_day < '2023-08-30')

相关推荐
❀͜͡傀儡师2 小时前
docker-compose一键部署Hadoop集群
hadoop·docker·容器
干就完事了1 天前
Hive内置函数
数据仓库·hive·hadoop
布吉岛没有岛_1 天前
Hadoop学习_week1
大数据·hadoop
lijun_xiao20091 天前
Apache Hadoop-学习笔记1
hadoop·学习·apache
q***07141 天前
Spring Boot 从 2.7.x 升级到 3.3注意事项
数据库·hive·spring boot
阿杜杜不是阿木木1 天前
在 Hadoop 生态使用 JuiceFS,并为Hive提供HDFS存储安装指南
hive·hadoop·hdfs
小坏讲微服务2 天前
MaxWell中基本使用原理 完整使用 (第一章)
大数据·数据库·hadoop·sqoop·1024程序员节·maxwell
一只小青团2 天前
Hadoop之HDFS
大数据·hadoop·分布式
ITVV2 天前
hadoop-3.4.1 单机伪部署
大数据·linux·hadoop
小鹿学程序2 天前
4.子任务四:Hive 安装配置
数据仓库·hive·hadoop