尚硅谷大数据技术-数据湖Hudi视频教程-笔记02【核心概念(基本概念、数据写、数据读)】

大数据新风口:Hudi数据湖(尚硅谷&Apache Hudi联合出品)

  1. B站直达:https://www.bilibili.com/video/BV1ue4y1i7na 尚硅谷数据湖Hudi视频教程
  2. 百度网盘:https://pan.baidu.com/s/1NkPku5Pp-l0gfgoo63hR-Q?pwd=yyds
  3. 阿里云盘:https://www.aliyundrive.com/s/uMCmjb8nGaC(教程配套资料请从百度网盘下载)

  1. 尚硅谷大数据技术-数据湖Hudi视频教程-笔记01【概述、编译安装】

  2. 尚硅谷大数据技术-数据湖Hudi视频教程-笔记02【核心概念(基本概念、数据写、数据读)】

  3. 尚硅谷大数据技术-数据湖Hudi视频教程-笔记03【集成Spark】

  4. 尚硅谷大数据技术-数据湖Hudi视频教程-笔记04【集成Flink】

  5. 尚硅谷大数据技术-数据湖Hudi视频教程-笔记05【集成Hive】

目录

[第3章 核心概念](#第3章 核心概念)

010

011

012

013

014

015

016

017

018

019

020

021

022

023

024

025


第3章 核心概念

010

++第3章 核心概念++

++3.1 基本概念++

++3.1.1 时间轴(TimeLine)++

011

++3.1.2 文件布局(File Layout)++

012

++3.1.2 文件布局(File Layout)++

013

++3.1.3 索引(Index)++

1)原理

014

++3.1.3 索引(Index)++

2)索引选项

015

++3.1.3 索引(Index)++

3)全局索引与非全局索引

016

++3.1.3 索引(Index)++

4)索引的选择策略

017

++3.1.4 表类型(Table Types)++

1)Copy On Write

018

++3.1.4 表类型(Table Types)++

2)Merge On Read

019

++3.1.4 表类型(Table Types)++

3)COW与MOR的对比

cow:批处理、mor:流批都行,更推荐流。

020

++3.1.5 查询类型(Query Types)++

1)Snapshot Queries 快照查询:全量最新。

2)Incremental Queries

3)Read Optimized Queries

021

++3.1.5 查询类型(Query Types)++

4)不同表支持的查询类型

022

++3.2 数据写++

++3.2.1 写操作++

++3.2.2 写流程(UPSERT)++

1)Copy On Write

2)Merge On Read

023

++3.2.3 写流程(INSERT)++

1)Copy On Write

2)Merge On Read

++3.2.4 写流程(INSERT OVERWRITE)++

1)COW

2)MOR

3)优点

4)缺点

024

++3.2.5 Key 生成策略++

++3.2.6 删除策略++

1)逻辑删

2)物理删

++3.2.7 总结++

025

++3.3 数据读++

++3.3.1 Snapshot读++

++3.3.2 Incremantal读++

++3.3.3 Streaming读++

++3.4 Compaction++

相关推荐
武子康9 小时前
大数据-240 离线数仓 - 广告业务 Hive ADS 实战:DataX 将 HDFS 分区表导出到 MySQL
大数据·后端·apache hive
字节跳动数据平台1 天前
5000 字技术向拆解 | 火山引擎多模态数据湖如何释放模思智能的算法生产力
大数据
武子康1 天前
大数据-239 离线数仓 - 广告业务实战:Flume 导入日志到 HDFS,并完成 Hive ODS/DWD 分层加载
大数据·后端·apache hive
字节跳动数据平台2 天前
代码量减少 70%、GPU 利用率达 95%:火山引擎多模态数据湖如何释放模思智能的算法生产力
大数据
得物技术2 天前
深入剖析Spark UI界面:参数与界面详解|得物技术
大数据·后端·spark
武子康2 天前
大数据-238 离线数仓 - 广告业务 Hive分析实战:ADS 点击率、购买率与 Top100 排名避坑
大数据·后端·apache hive
武子康3 天前
大数据-237 离线数仓 - Hive 广告业务实战:ODS→DWD 事件解析、广告明细与转化分析落地
大数据·后端·apache hive
大大大大晴天3 天前
Flink生产问题排障-Kryo serializer scala extensions are not available
大数据·flink
武子康5 天前
大数据-236 离线数仓 - 会员指标验证、DataX 导出与广告业务 ODS/DWD/ADS 全流程
大数据·后端·apache hive
武子康6 天前
大数据-235 离线数仓 - 实战:Flume+HDFS+Hive 搭建 ODS/DWD/DWS/ADS 会员分析链路
大数据·后端·apache hive