hive将时间字符串转换为timestamp的几种写法

写法一

sql 复制代码
select from_utc_timestamp(from_unixtime(unix_timestamp('2023-8-7 9:38:10 UTC+08:00', 'yyyy-MM-dd HH:mm:ss')), 'UTC');

写法二

sql 复制代码
select cast(unix_timestamp('2023-8-7 9:38:10 UTC+08:00', 'yyyy-MM-dd HH:mm:ss') as timestamp);

写法三

sql 复制代码
select cast(trim(split(upper('2023-10-31 4:46:40 UTC+0800'), 'UTC')[0]) as timestamp); 

这种方式我觉得过于复杂了。

使用到的函数

unix_timestamp

  • 函数签名
bash 复制代码
bigint unix_timestamp(string datetime, string format)
  • 函数返回值

    bigint类型的时间戳整数

  • 函数入参

    第一个参数是string类型的时间,比如'2024-01-10 20:44:00'。

    第二个参数是string类型的时间格式化的格式,比如'yyyy-MM-dd HH:mm:ss'。

  • 函数使用

bash 复制代码
-- 将给定时间字符串转换为指定格式的时间戳数字
select unix_timestamp('2023-12-4 4:45:12 UTC+08:00', 'yyyy-MM-dd HH:mm:ss');
-- 输出为1701619200
bash 复制代码
-- 获取当前时间戳
select unix_timestamp();
  • 注意点
    方法的返回值在spark中可以直接强转为timestamp。
    在hive中不能直接转为timestamp,强转会转为很奇怪的时间。
    如果要在hive中将此函数返回值转为timestamp,则需要使用cast函数转为timestamp。

from_unixtime

  • 函数签名
bash 复制代码
string from_unixtime(bigint time, string fromat)
  • 函数返回值

  • 函数参数

    bigint类型的时间戳。

    string类型的格式,用于指定函数返回值的格式,可以省略,如果省略,则默认为'yyyy-MM-dd HH:mm:ss'

  • 函数使用

bash 复制代码
select from_unixtime(1701619200, 'yyyy-MM-dd HH:mm:ss');
bash 复制代码
-- 省略format
select from_unixtime(1701619200);

测试

可以使用以下字符串作为输入进行测试。

以下各市的字符串经过在beeline客户端进行测试,均能转换为timestamp,且时间精度不会丢失

sql 复制代码
2023-8-31 15:40:56

-- 能够将带有UTC格式的字符串转换为时间戳,然后再转换为timestamp。
-- 但是会有8个小时的误差,上述的方法貌似是直接把UTC字符串给去掉了。                                                                                                                                                          
2023-12-4 4:45:12 UTC+0800

2023-10-17 3:38:1 UTC+0800

2023-5-3 13:7:0

2024-01-10 20:44:00.048

参考

unix_timestamp 时间戳函数用法(hive)

相关推荐
光电的一只菜鸡18 小时前
小白从零开始学agent(二)——如何高效编写 Prompt 与 Skill
hadoop·microsoft·prompt
德昂信息dataondemand1 天前
数仓ETL避坑指南:如何攻克时序指标中的数据问题
数据仓库·商务智能
哥本哈士奇1 天前
dbt+SQLServer构建数据仓库(3):dbt_project.yml配置精讲
数据仓库·sqlserver
哥本哈士奇1 天前
dbt+SQLServer构建数据仓库(4):分层建模实战
数据仓库·sqlserver
l1t2 天前
kryonix提交的DuckDB 统一并优化标量执行器基础设施 - #24564 PR
开发语言·数据库·数据仓库·sql
ZCBUS实时计算3 天前
政务海量分库分表汇聚实战:基于 3 节点 ZCBUS 集群完成医保 10TB 数据实时整合
大数据·数据库·数据仓库·sql·dba·etl·政务
William Dawson4 天前
【踩坑实录|Hive1\.2\.1数据服务接口5大疑难问题调试与全方位优化方案】
java·hive·spring boot
hopsky4 天前
数据架构与商业智能
数据仓库·bi
ha_lydms4 天前
Hologres 简介
大数据·hadoop·阿里云·mapreduce·yarn·dataworks·hologres
APItesterCris6 天前
Open Claw 实战教程:5 分钟搭建京东商品自动化监控与数据分析系统
大数据·运维·数据库·数据仓库·自动化