数据仓库理论知识

1、数据仓库的概念

数据仓库(英文:Date Warehouse,简称数仓、DW),是一个用于数据存储、分析、报告的数据系统。数据仓库的建设目的是面向分析的集成化数据环境,其数据来源于不同的外部系统,其结果开放给不同外部应用使用,为企业提供决策支持;

2、数据仓库的主要特征

数据仓库是面向主题性 (Subject-Oriented )、集成性 (Integrated)、非易失性 (Non-Volatile)和时变性(Time-Variant )数据集合,用以支持管理决策 。

3、数据库和数据仓库的区别:

  • 数据源:数据库的数据仅包含当前运行的日常业务数据,而数据仓库的数据是整合了多个外部系统的数据包括OLTP。
  • 目的:数据库的建设目的面向应用、面向业务、支持事务,而数据据仓库的建设是面向主题、面向分析、支持决策的
  • 焦点:数据库关注的数据焦点是当下,而数据仓库则是面向过去、面向历史、实时数仓。
  • 任务:数据库存在读写操作,而数据仓库是大量的读数据而很少有写操作。
  • 响应时间:数据库是毫秒级别,数据仓库库秒、分钟、小时或则天,主要取决于数据量和查询的复杂度。
  • 数据量:数据库小数据,MB、GB级别的,而数据仓库则是大数据TB、PB级别
  1. 数据仓库不是大型的数据库,虽然数据仓库存储数据规模大。
  2. 数据仓库的出现,并不是要取代数据库。
  3. 数据库是面向事务的设计,数据仓库是面向主题设计的。
  4. 数据库一般存储业务数据,数据仓库存储的一般是历史数据。
  5. 数据库是为捕获数据而设计,数据仓库是为分析数据而设计

4、数据仓库、数据集市

数据仓库是面对整个集团和组织的数据,而数据集是面向单个部门使用的,可以认为数据集市是数据仓库的子集。用户可以基于主题数据开展各种应用:数据分析、数据报表、数据挖掘。

5、数据仓库分层架构

详解-ODS-DWD-DWS-ADS

相关推荐
阿里云大数据AI技术19 小时前
StarRocks x Fluss x Paimon湖流一体方案:构建秒级响应、湖流一体的实时数据引擎
大数据·人工智能
Databend19 小时前
Agent 轨迹分析与归因的数据工程实践
大数据·数据库·agent
喵个咪21 小时前
Go Wind UBA 拆解系列 - 架构总览:三服务、数据流与契约优先
大数据·后端·go
喵个咪21 小时前
Go Wind UBA 拆解系列 - 多租户与安全:两套隔离机制的边界
大数据·后端·go
喵个咪21 小时前
Go Wind UBA 拆解系列 - OLAP 与 SQL 硬核:25 个分析模型怎么落地
大数据·后端·go
喵个咪21 小时前
Go Wind UBA 拆解系列 - SDK 与采集层:从浏览器到 Kafka
大数据·后端·go
QCC产品中心1 天前
MiniMax Agent 接入实测:企业查询、股权穿透与 UBO 识别(附 Prompt 模板)
大数据·mcp·金融/非金融
SelectDB2 天前
Apache Doris Python UDF:让 SQL 直接调用 Python 生态,支撑 Agent 时代复杂业务逻辑
大数据·数据库·python
ApacheSeaTunnel2 天前
当多表数据涌入,Apache SeaTunnel 如何巧妙化解主键冲突?
大数据·开源·数据集成·seatunnel·技术分享·数据同步
大大大大晴天5 天前
Hudi Metadata Table 与 Hive Sync (HMS)怎么选?
大数据