函数
函数简介
方便完成我们一些复杂的操作,就好像我们 Spark 中的 UDF 函数,避免用户反复写逻辑。
Hive 提供了大量的内置函数,主要可以分为以下几类:
- 单行函数
- 聚合函数
- 炸裂函数
- 窗口函数
下面的命令可以查看内置函数的相关信息:
1)查看系统自带的函数
sql
show functions;
2)显示自带的函数的用法
查看函数 upper 的用法(显示函数参数):
sql
desc function upper;
3)详细显示自带的函数的用法
查看函数 upper 的详细用法:
sql
desc function extended upper;
1、单行函数
特点:输入一行,输出一行(或多行)。
按照功能可以分为:
- 日期函数
- 字符串函数
- 集合函数
- 数学函数
- 流程控制函数
1.1、算数运算函数
处理常用的 +、-、*、/ 还有 %、&、^、~、| 等
查询出员工薪资后全部 +100 显示:
sql
select sal+1 from emp;
1.2、数值函数
1)round:四舍五入
默认不保留小数部分,直接四舍五入为整数。
sql
select round(3.5); -- 输出4
可以设置第二个参数(控制小数部分的长度):
sql
select round(3.1415,2) --输出3.14
2)ceil:向上取整
sql
select ceil(3.11); -- 输出4
3)floor:向下取整
sql
select floor(3.6); --输出3
1.3、字符串函数
1)substring(str,beg[,len]):截取字符串
解释:从第 beg 个下标对 str 进行截取,共截取 len 长度的字符串。
注意: 下标是从 1 开始的,负数代表取后 beg 位(-4代表取后4位)。
sql
select substring("hello",1); --返回hello
select substring("hello",1,2); --返回he
select substring("hello",-4); --返回ello
select substring("hello",-4,2); --返回el
2)replace(str1,str2,str3):替换
解释:将字符串 str1 中的子字符串 str2 用 str3 替换。
sql
select replace("hello sxau",'sxau','tylg'); --返回 hello tylg
3)regexp_replace(str1,regex,str2):正则替换
解释:将字符串 str1 中满足正则表达式 regex 的部分用 str2 替换掉。
sql
select regexp_replace("身份证号:141125...","\\d",'*'); --返回 身份证号:******...
注意:这里的正则表达式语法是我们 Java 中的语法,比正常的正则表达式多一个斜杠 \;
4)regexp:正则匹配
解释:满足正则表达式返回 true 否则返回 false。
sql
select '141125' regexp '\\d+'; --返回true
5)repeat(str,count):重复字符串
将字符串 str 重复 count 次。
sql
select repeat('good ',3); --返回 good good good
6)split(str,regex):字符串切割
解释:根据正则表达式 regex 将字符串切割开来。
注意:这里返回的是一个数组。
sql
select split("name sex id sal",' '); --返回 ["name","sex","id","sal"]
7)nvl(a,b):替换 null 值
解释:如果 a 不是null,则返回a,否则返回 b。
用法:通常用于判断字段是否为空。
sql
select nvl(null,1); --返回1
8)concat(str1,str2,...):拼接字符串
sql
select concat('tom','jerry','school'); --返回 tomjerryschool
9)concat_ws:以指定的分隔符拼接字符串
sql
select concat_ws('.','192','168','88','134') --返回 192.168.88.134
10)get_json_object(json_string,path):解析json字符串
JSON 的相关知识可以查看菜鸟教程。
解释:解析 json 字符串 json_string,并返回 path 指定的内容。如果输入的 json 字符串无效,那么返回 null。
sql
-- 返回 lyh
select get_json_object('{"name": "lyh", "friends": ["my","zht"],"students": {"drj": 48,"lyf": 30},"address": {"street": "chang an jie","city": "beijing","postal_code": 10010}}','$.name');
注意:
- 如果是 json 数组,可以通过 '$.[0].name' 的方式获取到下标为 0 的json对象的 name 属性值。
- 注意如果 json 字符串内用的是双引号,那么我们的函数参数最好用单引号。
1.4、日期函数
我们的日期时间基本格式为:年-月-日 时:分:秒
1)unix_timestamp([date_str,format]):返回当前或指定时间的时间戳
解释:将时间字符串 date_str 根据 format 格式解析为时间戳。
注意:一定要注意字符串 date_str 中的间隔符必须要和 format 中一一对应。
sql
select unix_timestamp(); --当前时间的时间戳 1696390814
select unix_timestamp('2023/10/04 11-41-08','yyyy/MM/dd HH-mm-ss'); -- 1696419668
2)from_unixtime(timestamp):将时间戳转为时间
注意:
- 这里的参数不是字符串,而是一个数值。
- from_unixtime() 只能精确到秒级别。
- from_utc_time() 可以精确到毫秒级别,但相应的如果参数是 unix_timestamp 需要*1000 转为毫秒数。
sql
select from_unixtime(1696419668); --输出 2023-10-04 11:41:08
select from_utc_timestamp(cast(1696419668 as bigint)*1000,'GMT+8');
3)current_date():当前日期
注意:括号可以省略。
sql
select current_date; --返回 2023-10-04
4)current_timestamp():当前日期的时间,并精确到毫秒
sql
select current_timestamp(); --返回 2023-10-04 11:49:51.696000000
5)month(str):获取日期中的月
sql
select month(current_date()); --返回 10
6)day(str):获取日期的日
sql
select day(current_date()); --返回 4
7)hour(str):获取日期的时
sql
select hour('2023-10-04 11:59:10'); --返回 11
8)datediff(enddate,startdate):两个日期相差的天数
sql
select datediff('2023-10-4','2023-10-1'); --返回 3
9)date_add(startdate,days):日期加天数
注意:有 add 就有 sub,一个加,一个减。
sql
select date_add('2023-10-1',365); --返回 2024-9-30
select date_sub('2023-10-1',365); --返回 2022-10-1
10)date_format(date-str,format):将日期字符串转为指定格式的字符串
sql
select date_format('2023-10-4 12:00:05','yyyy年MM月dd日-HH时mm分:ss秒'); --返回2023年10月04日-12时00分:05秒
1.5、流程控制函数
1)case when:条件判断函数
sql
select stu_id,
course_id,
score,
case
when score>=90 then 'A'
when score>=80 then 'B'
when score>=70 then 'C'
when score>=60 then 'D'
else '不及格'
end as grade
from score_info;
如果是等值查询(直接 case 后面跟字段名,when 条件处直接写值即可):
sql
select stu_id,
course_id,
score,
case score
when 90 then 'A'
when 80 then 'B'
when 70 then 'C'
when 60 then 'D'
end as grade
from score_info;
2)if:条件判断,类似于 Java 的三元运算符
sql
select stu_id,course_id,
if(score>60,'及格','不及格') `grade`
from score_info;
1.6、集合函数
集合函数用来处理复杂的数据类型,比如 array、map 和 struct。
1)size :集合中元素的个数
sql
select size(array(1,2,3)); --3
2)map(k1,v1,k2,v2):创建 map 集合
sql
select map('hadoop',1,'spark',1); --{"hadoop":1,"spark":1}
3)map_keys(map):返回 map 中的 key
sql
select map_keys(map('hadoop',1,'spark',1)); --["hadoop","spark"]
4)map_values(map):返回 map 中的 value
sql
select map_values(map('hadoop',1,'spark',1)); --[1,1]
5)array:声明 array 集合
sql
select array(1,2,3); --[1,2,3]
6)array_contains(arr,ele):判断 arr 中是否包含元素 ele
sql
select array_contains(array(1,2,3),3); --true
7)sort_array(arr):将 arr 中的元素排序
sql
select sort_array(array(5,3,4,1)); --[1,3,4,5]
8)struct:声明 struct
sql
select struct('name','age','sex'); --{"col1":"name","col2":"age","col3":"sex"}
9)named_struct():声明 struct 的属性和值
sql
select named_struct('name',"tom",'age',"18",'sex',"男"); --{"name":"tom","age":"18","sex":"男"}
案例演示
数据准备
sql
create table employee(
name string, --姓名
sex string, --性别
birthday string, --出生年月
hire_date string, --入职日期
job string, --岗位
salary double, --薪资
bonus double, --奖金
friends array<string>, --朋友
children map<string,int> --孩子
);
insert into employee
values('张无忌','男','1980/02/12','2022/08/09','销售',3000,12000,array('阿朱','小昭'),map('张小无',8,'张小忌',9)),
('赵敏','女','1982/05/18','2022/09/10','行政',9000,2000,array('阿三','阿四'),map('赵小敏',8)),
('宋青书','男','1981/03/15','2022/04/09','研发',18000,1000,array('王五','赵六'),map('宋小青',7,'宋小书',5)),
('周芷若','女','1981/03/17','2022/04/10','研发',18000,1000,array('王五','赵六'),map('宋小青',7,'宋小书',5)),
('郭靖','男','1985/03/11','2022/07/19','销售',2000,13000,array('南帝','北丐'),map('郭芙',5,'郭襄',4)),
('黄蓉','女','1982/12/13','2022/06/11','行政',12000,null,array('东邪','西毒'),map('郭芙',5,'郭襄',4)),
('杨过','男','1988/01/30','2022/08/13','前台',5000,null,array('郭靖','黄蓉'),map('杨小过',2)),
('小龙女','女','1985/02/12','2022/09/24','前台',6000,null,array('张三','李四'),map('杨小过',2));
需求
1)统计每个月的入职人数
sql
select month(replace(hire_date,'/','-')) as month,
count(*) as cn
from employee
group by
month(replace(hire_date,'/','-'));
2)查询每个人的年龄(年+月)
sql
select name,
concat(if(month>=0,year,year-1),'年'
,if(month>=0,month,12+month),'月') age
from
(
select name,
year(current_date())-year(t1.birthday) year,
month(current_date())-month(t1.birthday) month
from (
select name,replace(birthday,'/','-') birthday
from employee
)t1
)t2;
3)按照薪资进行倒序,如果奖金为 null 置为 0
sql
select name,salary+nvl(bonus,0)
from employee
order by salary;
4)查询每个人有多少个朋友
sql
select name,size(friends) `朋友` from employee;
5)查询每个人孩子的姓名
sql
select name,map_keys(children) from employee;
6)查询每个岗位男女各多少人
sql
select job,
sum(if(sex='男',1,0)) male,
sum(if(sex='女',1,0)) female
from employee
group by job;