Python大数据学习之Hadoop学习——day08_hive函数

一.hive查询

语法结构:

SELECT ALL \| DISTINCT 字段名,字段名,...

FROM 表名 inner \| left outer \| right outer \| full outer \| left semi join 表名 on 关联条件

where 非聚合条件

GROUP BY 分组字段名

HAVING 聚合条件

ORDER BY 排序字段名 asc \| desc

CLUSTER BY 字段名 \| \[DISTRIBUTE BY 字段名 SORT BY 字段名\]

LIMIT x,y

类sql基本查询

知识点:

基础查询格式:select distinct 字段名 from 表名;

注意:*代表所有字段 distinct去重 as给表或者字段起别名

条件查询格式:select distinct 字段名 from where 条件;

比较运算符:> < >= <= != <>

逻辑运算符:and or not

模糊查询:%代表任意0个或者多个字符

_代表任意1个字符

空判断:为空is null 不为空is not null

范围查询:x到y的连续范围:between x and y

x或者y或者z类的非连续范围:in(x,y,z)

排序查询格式:select distinct 字段名 from 表名 where 条件 order by 排序字段名 asc | desc ;

聚合查询格式:select distinct 字段名 from 表名;

聚合函数:count() sum() avg() max() min()

分组查询格式:select 分组字段名,聚合函数(字段名) from 表名 where 非聚合条件 group by 分组字段名 having 聚合条件;

分页查询条件:select 字段名 from 表名 order by 排序字段名 asc\|desc limit x,y;

类sql多表查询

知识点:

交叉连接格式:select 字段名 from 左表 cross join 右表

内连接格式:select 字段名 from 左表 inner join 右表 on 左右表关联条件;

左外连接格式:select 字段名 from 左表 left outer join 右表 on 左右表关联条件;

右外连接格式:select 字段名 from 左表 right outer join 右表 on 左右表关联条件;

自连接:本质是一个特殊的内外连接,最大特点就是左右表是同一个表

子查询:本质是一个select语句作为另外一个select语句的一部分(表或者条件)

hive其他join操作

知识点:

全外连接:左表 full outer join 右表 on 条件

左半开连接:左表 left semi join 右表 on 条件

hive其他排序操作练习

知识点:

set mapreduce.job reduces: 查看当前设置的reduce数量,默认结果是-1,代表自动reduce数量和桶数量一致

set mapreduce.job.reduce = 数量 :-- 修改reduce数量

cluster by 字段名:分桶且正序排序

distribute by 字段名 sort by 字段名:distribute by 负责分,sort by 负责排序,相对比较灵活

order by 字段名:全局排序

注意:cluster by 和 distribute by 字段名 sort by 字段名 受当前设置的reduces数量影响,但是设置的reduce数量对order by 无影响,因为order by 就是全局排序,就是一个reduce

建表的时候指定分桶字段和排序字段:clustered by (字段名) sorted by (字段名) into 桶数量 bucket

注意:如果建表的时候设置了桶数量,那么reduce设置建议为-1或者大于桶数量

抽样查询

知识点:

正则模糊查询

sql模糊查询关键字:like

正则模糊查询关键字:rlike

union联合查询

union联合查询:

union distinct:去重,省略了distinct

union all:不去重

CTE表达式

with 临时结果集别名1 as (子查询语句),

临时结果集别名2 as (子查询语句)

...

select 字段名 from (子查询语句)

内置虚拟列

知识点:

相关推荐
zhangrelay13 分钟前
机器人或计算机智能与时间相关案例汇总(ROS2-ROS1)
linux·笔记·学习·ubuntu·机器人
YangYang9YangYan14 分钟前
2027 届秋招岗位对比|大数据本科,产品运营 vs 数字化管培投递策略
大数据·产品运营
卷毛迷你猪20 分钟前
快速实验篇(B04) 热门品类 Top10 与加权排名
大数据·hive·hadoop
老王爱玩车21 分钟前
深入理解指针6
c语言·开发语言·学习
传奇开心果编程23 分钟前
【SwiftUI入门练中学】第17课 通知与后台任务
学习·ui·ios·swiftui·swift
Omics Pro26 分钟前
预测性虚拟细胞中显式机理算子
大数据·数据库·人工智能·python·算法·机器学习·自然语言处理
看浪的路人26 分钟前
第5讲:Prompt 管理与版本追踪
大数据·数据库·elasticsearch
计算机源码社42 分钟前
【大数据毕设项目】基于大数据与机器学习的北京市招标公告数据分析与可视化研究 面向智慧监管的北京市招标公告数据可视化分析系统
大数据·机器学习·信息可视化·数据挖掘·数据分析·毕业设计·课程设计
承渊政道1 小时前
Linux系统学习【线程概念与控制核心知识详解】
linux·运维·vscode·学习·ubuntu·线程创建 终止 等待
励志不掉头发的内向程序员1 小时前
【从零写一个CAD 04】中键拖动平移:抓住一个点,让它一直待在鼠标底下
开发语言·c++·qt·学习·系统架构·计算机外设