Hive内表修改字段类型及注意事项

目录

  • [1 Hive表的前置说明](#1 Hive表的前置说明)
  • [2 突然浮现的问题](#2 突然浮现的问题)
  • [3 解决](#3 解决)
    • [3.1 方案一:直接修改字段类型](#3.1 方案一:直接修改字段类型)
    • [3.2 方案二:通过修改内表LOCATION,删除旧表,重建新表](#3.2 方案二:通过修改内表LOCATION,删除旧表,重建新表)
    • [3.3 方案三:将内表修改为外表,删除旧表,重建新表](#3.3 方案三:将内表修改为外表,删除旧表,重建新表)

1 Hive表的前置说明

例如,我们需要一个t1表,在创建的时候,理所当然的认为了 hit_count 是一个整型类型创建了一个内表。

sql 复制代码
CREATE TABLE t1 (
  ...
  hit_count int
) PARTITIONED BY(
  statistical string
) STORED AS PARQUET 
LOCATION 'hdfs://nnCluster/warehouse/hive/yore.db/t1';

之后开始通过其他ETL工具开始将数据汇入这个表,每日会自动创建一个分区目录,然后根据表schema信息,在HDFS的目录下生成PARQUET文件。

业务查询这个表正常,一切似乎都在正常运行。

2 突然浮现的问题

某天突然业务说某个查询t1表的任务异常了,其他却正常。

经过排查发现其他t1表正常的查询都没有涉及到 hit_count 字段,而报错的是查询了 hit_count 字段后发生的。

进一步排查,发现了问题,HDFS中汇入时生成的 PARQUET文件中 hit_count 字段是字符串类型,而Hive表中 hit_count 字段是整型。

在所难免了,这个问题就被你遇到了。

3 解决

因为t1表已经保存了很多数据(例如1年多的),因此首先肯定不能让汇入方进行改动了,要不然历史数据就无法查询了。所以PARQUET只能的结构只能这样了,将错就错吧, hit_count 就不得不当作字符串类型了。

剩下能解决的,就只有修改Hive表中 hit_count 字段类型。

3.1 方案一:直接修改字段类型

sql 复制代码
ALTER TABLE t1 CHANGE COLUMN hit_count hit_count string

想到能有如此简单的方法解决问题,就非常开心😊。

不过实际上如果表分区下已经有PARQUET数据了,并且类型存在不兼容时会执行失败。

3.2 方案二:通过修改内表LOCATION,删除旧表,重建新表

注意:如果HMS有多个,在删除旧表时,务必务必一定要保证每一个HMS都已经同步/更新了元数据。

sql 复制代码
-- 1 修改原内表的存储路径
-- 路径可以是任意的,这里是临时的,
-- 其实就是为了把原内表关联的HDFS存储路径解离
ALTER TABLE t1 SET LOCATION "hdfs://nnCluster/tmp/tmp_t1";

-- 2 查看下建表信息,确保内表的存储路径(LOCATION)已经改到了新的临时路径了
SHOW CREATE TABLE t1;

-- 3 可以放心的删除旧表了
DROP TABLE t1;

-- 4 建新的业务内表,
-- 此时字段类型可以放心的修改为需要的类型了(这里为string类型)
-- LOCATION指向原表的存储路径
CREATE TABLE t1 (
  ...
  hit_count string
) PARTITIONED BY(
  statistical string
) STORED AS PARQUET 
LOCATION 'hdfs://nnCluster/warehouse/hive/yore.db/t1';

-- 5 刷新分区元数据
MSCK REPAIR TABLE t1;

-- 6 查询验证
select * from t1 where statistical='2025-11-21' limit 5;

3.3 方案三:将内表修改为外表,删除旧表,重建新表

注意:如果HMS有多个,在删除旧表时,务必一定一定一定要保证每一个HMS都已经同步/更新了元数据。

sql 复制代码
-- 1 内表修改为外表
ALTER TABLE t1 SET TBLPROPERTIES ("EXTERNAL"="TRUE");

-- 2 查看下建表信息,确保内表已修改为外表
SHOW CREATE TABLE t1;

-- 3 可以放心的删除旧表了
DROP TABLE t1;

-- 4 重建业务内表,
-- 此时字段类型可以放心的修改为需要的类型了(这里为string类型)
-- LOCATION指向原表的存储路径
CREATE TABLE t1 (
  ...
  hit_count string
) PARTITIONED BY(
  statistical string
) STORED AS PARQUET 
LOCATION 'hdfs://nnCluster/warehouse/hive/yore.db/t1';

-- 5 刷新分区元数据
MSCK REPAIR TABLE t1;

-- 6 查询验证
select * from t1 where statistical='2025-11-21' limit 5;
相关推荐
geovindu19 小时前
SQL Data Sampling and Approximation Techniques using postgreSQL 18
大数据·数据库·数据仓库·sql·postgresql·数据库开发·数据库架构
skywalk816321 小时前
hive —— 多机 AI Agent 协同的任务总线:分布式,多节点同时运行,保障不会宕机
人工智能·hive·分布式
程序员梅雨2 天前
【从零开始学习数据仓库 | 第一篇】:维度建模理论
大数据·数据仓库·学习·阿里云·数据分析
棣廷2 天前
初识数据仓库——数仓分层到DataX数据采集
数据仓库
棣廷2 天前
初识Hive(2)
数据仓库·hive·hadoop
skywalk81632 天前
deepseek对skywalk163/hive 和hivecommons/hive 两个多机AI Agent任务调度项目的对比
人工智能·hive·agent
father_12273 天前
【ambari管理下hdp2.6.5升级hive1.2.1-2.1.0-2.3.3】
hive·hadoop·ambari
geovindu3 天前
Pivoting and Unpivoting Data in SQL using postgreSQL 18
大数据·数据库·数据仓库·sql·postgresql·数据库开发·数据库架构
数据库小学妹3 天前
OLAP数据库怎么选?看清OLTP、数仓、湖仓边界
数据仓库·mpp·列式存储·联机分析处理·数据库选型·olap数据库