数据仓库的主流分层架构

数据仓库的分层架构主要是为了更好地组织和管理数据,以及优化数据处理和分析的效率。一般来说,数据仓库可以分为以下几个层次:

源数据层(Source Layer):也称为ODS(Operational Data Store)层 ,是数据仓库的最底层,主要存储原始的业务数据。这些数据通常直接从各个业务系统中抽取,不经过任何清洗或转换。
数据仓库明细层(Data Warehouse Detail, DWD) :这一层主要存储明细数据,即对源数据层的数据进行清洗、转换和加载后的结果。数据仓库明细层的数据应该是一致的、准确的、干净的数据,即去除了杂质的数据。
数据仓库汇总层(Data Warehouse Summary, DWS) :这一层主要存储汇总数据,即对DWD层的数据进行进一步的聚合和汇总。数据仓库汇总层的数据可以支持更高级别的数据分析和报表生成。
应用层(Application Layer):也称为数据应用层(Data Application Layer),是数据仓库的最顶层。这一层的数据主要面向具体的业务应用,如报表、专题分析、数据挖掘等。应用层的数据可以来自DWD层或DWS层,根据具体业务需求进行选择和组合。

除了以上四个层次外,有些数据仓库还会包含一个临时层(Temporary Layer),用于存储一些中间的计算结果或临时数据。这些临时数据在计算完成后通常会被删除,以节省存储空间。

通过分层架构的设计,数据仓库可以更好地满足不同的业务需求,提高数据处理和分析的效率,同时也方便数据的维护和管理。

相关推荐
大大大大晴天9 小时前
Hudi技术内幕:Key Generation原理与实践
大数据
得物技术4 天前
从埋点需求到规则资产:Hermes Agent 重构得物数仓工作流
大数据·llm·ai编程
久美子4 天前
AI驱动数仓建设的Harness工程实践——本体建模、知识分层与上下文工程
大数据
大树884 天前
金刚石散热越强,管路越先见顶
大数据·运维·服务器·人工智能·ai
大志哥1234 天前
ES和Logstash日志链路系统上线后遭遇切片爆炸(解决)
大数据·elasticsearch
果丁智能4 天前
物联网智能锁赋能集中式住宿:身份核验与远程权限管控的全链路技术实践
大数据·人工智能·物联网·智能家居
ApacheSeaTunnel4 天前
实战演示 | 基于 Apache SeaTunnel 与 Apache DolphinScheduler 实现 MySQL 到 Doris 离线定时增量同步
大数据·mysql·开源·doris·数据集成·seatunnel·数据同步
weixin_397574094 天前
PDF复杂表格的1:1还原引擎:跨页表格自动拼接技术实战
大数据·人工智能·pdf
极光代码工作室5 天前
基于数据仓库的电商数据分析平台
大数据·hadoop·python·spark·数据可视化
秋名山码民5 天前
Graph RAG 深度解析:从向量检索到知识推理的技术演进
大数据·人工智能·rag