hive与trino(prestosql)的差异

1、字段相关

通过describe 获取的表字段信息,hive的string 在presto中为varchar

执行SQL时为了防止字段名为SQL关键字,hive使用`号包裹,而presto会报错,需改为双引号包裹字段名或表名

2、自定义UDF相关

注册自定义UDF,presto与hive的jar不能共用,两种写法两套体系,注册的SQL语法也不一致

3、侧视图

-- hive的侧视图

select movie,category,category_name from hive.test.movies lateral view explode(split(category,',')) tmp as category_name;

-- trino的侧视图

select * from hive.test.movies cross join unnest(split(category,',')) as t (category_name)

5、类型转换

hive使用cast() trino使用try_cast()

trnio虽然也提供了cast(),但是当类型转换不能正常进行时会报错终止运行,如select cast('ABC' AS BIGINT) 分别在两个平台上运行的结果

6、查看集合中的元素个数

hive使用size(),如select size(split('121212,434,dsadsa,dfds,f,yty,t',','));

trnio使用cardinality(),如select cardinality(split('121212,434,dsadsa,dfds,f,yty,t',','));

7、构造数组的方式

hive为array(),如:select array(3, 2, 5, 1, 2) ,读取数组的下标值使用 select array(3, 2, 5, 1, 2)[0],下表从0开始算

trino为array[],如array[3, 2, 5, 1, 2],读取数组的下标使用SELECT element_at(array[3, 2, 5, 1, 2],1);,下标从1开始算

8、获取时间戳

hive使用unix_timestamp(),精确到秒

而trino需使用to_unixtime(now()),精确到毫秒,精确到秒需使用

SELECT TO_UNIXTIME(CAST(FORMAT_DATETIME(FROM_UNIXTIME(TO_UNIXTIME(NOW())),'yyyy-MM-dd HH:mm:ss') AS TIMESTAMP))

或者

SELECT CAST(TO_UNIXTIME(CURRENT_TIMESTAMP) AS BIGINT),最后一位会根据毫秒数四舍五入

9、使用md5获取摘要

hive可直接使用select md5('AAAAA')

trnio需要使用 select lower(to_hex(MD5(to_utf8 ('AAAAA'))))

10、空值补全

hive可使用 SELECT NVL(NULL,'XYZ')

trino需要使用 SELECT coalesce(null,'XYZ')

11、对INSERT OVERWRITE的支持

hive 支持此覆写语法,

trino不支持insert overwrite 语法,只能先delete然后再insert into

12、修改表时删除分区数据的支持

ALTER TABLE hive.tetris.result_de3edffbfb22ba77_ds DROP PARTITION(my_dt='2024060314')

hive 支持此语法

trino不支持

相关推荐
不剪发的Tony老师2 小时前
Apache Hop:开源版本的Kettle
数据仓库·etl
知初~8 小时前
出行项目案例
hive·hadoop·redis·sql·mysql·spark·database
m0_7482359511 小时前
Python大数据可视化:基于Python的王者荣耀战队的数据分析系统设计与实现_flask+hadoop+spider
hadoop·python·flask
B站计算机毕业设计超人1 天前
计算机毕业设计hadoop+spark旅游景点推荐 旅游推荐系统 旅游可视化 旅游爬虫 景区客流量预测 旅游大数据 大数据毕业设计
大数据·hadoop·爬虫·深度学习·机器学习·数据可视化·推荐算法
专注API从业者2 天前
分布式电商系统中的API网关架构设计
大数据·数据仓库·分布式·架构
我要用代码向我喜欢的女孩表白2 天前
hive迁移补数脚本细粒度 表名-分区唯一键
数据仓库·hive·hadoop
隔壁老登2 天前
查询hive指定数据库下所有表的建表语句并生成数据字典
数据库·hive·hadoop
m0_748233643 天前
【分布式】Hadoop完全分布式的搭建(零基础)
大数据·hadoop·分布式
薇晶晶3 天前
如何安装Hadoop
大数据·hadoop·分布式
人类群星闪耀时3 天前
数据湖与数据仓库:初学者的指南
大数据·数据仓库·spark