数据仓库-维度设计

维度

在维度建模中,将度量称为"事实",将环境描述为"维度",维度是分析事实所需要的多样环境。

例如,在分析交易过程时,可以通过买家、卖家、商品和时间等维度描述交易发生的环境。

维度的基本设计方法

第一步:选择维度或新建维度。

作为维度建模的核心,在企业级数据仓库中必须保证维度的唯一性。

第二步:确定主维表

主维表一般是ODS表,直接与业务系统同步。

第三步:确定相关维表

根据对业务的梳理,确定哪些表和主维表存在关联关系,并选择其中的某些应用于生成维度属性。

第四步:确定维度属性

本步骤主要包括两个阶段,其中一个阶段是从主维表中选择维度属性或生成新的维度属性;第二个阶段是从相关维表中选择维度属性或生成新的维度属性。

缓慢变化维

数据仓库的重要特点之一是反映历史变化,所以如何处理维度的变化是维度设计的重要工作之一。缓慢变化维的提出是因为在现实世界中,维度的属性并不是静态的。它会随着时间的流逝发生缓慢的变化。与数据增长较为快速的事实表相比,维度变化相对缓慢。在Kimball的理论中,有三种处理缓慢变化维的方式。

方式一

重写维度值。采用此方式,不保留历史数据,始终取最新数据。

方式二

插入新的维度行。采用此方式,保留历史数据,维度值变化前的事实和过去的维度值关联,维度值变化后的事实和当前的维度值关联。

方式三

添加维度列,通过新列保存变化后的维度值。采用第二种处理方式不能将变化前后记录的事实归一为变化前的维度或归一为变化后的维度。

历史拉链存储就是利用缓慢变化维的第二种处理方式。这种处理方式是通过新增两个时间戳字段(start_dt和end_dt),将所有以天为粒度的变更数据都记录下来。通常分区字段也是时间戳字段。

相关推荐
三日看尽长安花6 小时前
【数据仓库】
数据仓库
mysql学习中13 小时前
hive修改表操作与array类型
大数据·数据仓库·hive·hadoop·hdfs·mapreduce
尘世壹俗人17 小时前
Hue3.9.0-cdh5.14.0安装
大数据·数据仓库
goTsHgo1 天前
埋点采集的日志数据常见的格式简介
开发语言·数据仓库
isNotNullX1 天前
传统数据仓库升级版:云数据仓库!
大数据·数据库·数据仓库·数据处理
goTsHgo1 天前
数据仓库建设 : 主题域简介
大数据·数据仓库
赵渝强老师1 天前
【赵渝强老师】Hive的分区表
数据仓库·hive·hadoop·sql
莫叫石榴姐1 天前
SQL进阶技巧:Hive如何进行更新和删除操作?
大数据·数据库·数据仓库·hive·hadoop·sql·1024程序员节
isNotNullX1 天前
ETL、ELT和反向ETL都有什么不同?怎么选择?
大数据·数据仓库·etl·传输
莫叫石榴姐1 天前
SQL进阶技巧:如何处理Hive中的数据倾斜?
大数据·数据库·数据仓库·人工智能·hive·hadoop·sql