20251202

目录

1.在 DWD 层中采用维度建模,其它层不用建模吗?

  • DWD层 是数仓的细颗粒度数据层,通常采用 维度建模(星型模型、雪花模型等),以便后续分析、汇总和统计。
  • 其它层,如 ODS(操作数据存储层)、DWS(服务数据层)、ADS(应用数据层),也都涉及建模,但侧重点不同:
    • ODS层: 通常是几乎1:1同步业务数据库,不需要复杂建模,只做部分清洗、去重等。
    • DWD层: 开始做 维度建模,规范字段、打标签、拆分维度和事实,便于统一口径和后续计算,消除业务表的冗余和"语义不清"。
    • DWS层: 按分析主题和需求做轻度建模、汇总,通常是宽表或聚合表,便于查询。
    • ADS层: 面向应用,按具体需求(报表、画像、指标)建模型,表结构与下游展现紧密对应。

结论:数仓每个层级都需要建模,只是建模的深度和方式不同。DWD层建模最典型,维度建模最成熟。

2.为什么要建模?

  • 目的和必要性
    • 简化分析复杂度: 业务数据库的表往往为功能服务,字段繁杂、冗余多,分析不方便。
    • 统一语义: 维度建模能规范字段定义,统一业务口径,防止"同名不同义"或"同义不同名"。
    • 方便扩展: 维度建模能灵活应对新需求,比如加新指标、新维度,不需要频繁改动原业务表结构。
    • 提高查询效率: 结构清晰后,业务数据才能高效支撑分析和数据服务。
    • 例如:原始业务库有订单表,每笔订单有几十个字段,部分字段有杂质、无用、语义不清。维度建模后,变成事实表和多个维度表,各字段标准定义,方便关联。

3.DWD层的数据来源不是业务库或者日志吗?为什么不直接继承来源表?

  • DWD层虽是从业务表或日志表抽数过来,但不是简单的 1:1 继承。需要处理:
    • 清洗(去重、纠正脏数据)
    • 字段标准化(格式统一、命名统一、时间等字段合理转换)
    • 抽象维度(如时间、地点、产品等变为维度表,可复用)
    • 剥离与业务强相关的偶发字段,增强结构的通用性
  • 有些来源表字段不适合直接继承,比如:
    • 过于冗长、涉及隐私、仅技术用途的原始字段
    • 一些字段需要合并、转换,如 status 转为多个标签
    • 分类、枚举需要提炼为维度表以复用

字段不能凭空产生,但也不应照搬;需要经过合适的设计和抽取,形成数仓层的标准结构。

总结一句话

DWD层不是原始业务库的简单镜像,而是通过维度建模,清洗、标准化、规范化业务数据,为后续分析场景打下坚实基础。数仓的其它层也有建模需求(但方式各有不同),建模能让数据使用、分析更高效、更便于管理和维护。

相关推荐
Database_Cool_16 小时前
云数据仓库开通指南:阿里云 AnalyticDB MySQL 10 分钟从 0 到分析实战教程
数据仓库·mysql·阿里云
罗政2 天前
基于AI工作流的多渠道销售数据仓库清洗统计实践
数据仓库
迈巴赫车主4 天前
湖仓一体(Data Lakehouse)简介
大数据·数据仓库·数据湖·湖仓一体
RestCloud6 天前
ETL是什么?全域数据集成平台核心能力解析
数据仓库·etl·数据清洗·数据处理·etlcloud·数据集成工具
Gent_倪6 天前
万字详解:数据库、数据仓库、数据湖、湖仓一体
数据库·数据仓库·spark
Microsoft Word7 天前
把RAG从 “能跑” 做到上线
数据仓库·人工智能
Database_Cool_7 天前
数据仓库弹性扩缩容怎么实现?AnalyticDB MySQL 在线扩容 0 中断实战
数据库·数据仓库·mysql·阿里云
APItesterCris8 天前
电商口碑自动化监控方案:30 分钟搭建商品评论实时采集 + 情感分析系统(完整可运行代码)
大数据·运维·数据仓库·自动化
香山上的麻雀100810 天前
Hive内部表(MANAGED_TABLE)的“批量删除分区”特性详解
数据仓库·hive·hadoop
石像鬼₧魂石10 天前
【Y2Ksoft】贵阳枫叶控股ERP管理系统 —— 管业制造 · 全链路数字化 · 开箱即用
大数据·数据仓库·数据库开发·数据库架构