数据仓库理论知识

1、数据仓库的概念

数据仓库(英文:Date Warehouse,简称数仓、DW),是一个用于数据存储、分析、报告的数据系统。数据仓库的建设目的是面向分析的集成化数据环境,其数据来源于不同的外部系统,其结果开放给不同外部应用使用,为企业提供决策支持;

2、数据仓库的主要特征

数据仓库是面向主题性 (Subject-Oriented )、集成性 (Integrated)、非易失性 (Non-Volatile)和时变性(Time-Variant )数据集合,用以支持管理决策 。

3、数据库和数据仓库的区别:

  • 数据源:数据库的数据仅包含当前运行的日常业务数据,而数据仓库的数据是整合了多个外部系统的数据包括OLTP。
  • 目的:数据库的建设目的面向应用、面向业务、支持事务,而数据据仓库的建设是面向主题、面向分析、支持决策的
  • 焦点:数据库关注的数据焦点是当下,而数据仓库则是面向过去、面向历史、实时数仓。
  • 任务:数据库存在读写操作,而数据仓库是大量的读数据而很少有写操作。
  • 响应时间:数据库是毫秒级别,数据仓库库秒、分钟、小时或则天,主要取决于数据量和查询的复杂度。
  • 数据量:数据库小数据,MB、GB级别的,而数据仓库则是大数据TB、PB级别
  1. 数据仓库不是大型的数据库,虽然数据仓库存储数据规模大。
  2. 数据仓库的出现,并不是要取代数据库。
  3. 数据库是面向事务的设计,数据仓库是面向主题设计的。
  4. 数据库一般存储业务数据,数据仓库存储的一般是历史数据。
  5. 数据库是为捕获数据而设计,数据仓库是为分析数据而设计

4、数据仓库、数据集市

数据仓库是面对整个集团和组织的数据,而数据集是面向单个部门使用的,可以认为数据集市是数据仓库的子集。用户可以基于主题数据开展各种应用:数据分析、数据报表、数据挖掘。

5、数据仓库分层架构

详解-ODS-DWD-DWS-ADS

相关推荐
武子康12 小时前
大数据-237 离线数仓 - Hive 广告业务实战:ODS→DWD 事件解析、广告明细与转化分析落地
大数据·后端·apache hive
大大大大晴天13 小时前
Flink生产问题排障-Kryo serializer scala extensions are not available
大数据·flink
武子康3 天前
大数据-236 离线数仓 - 会员指标验证、DataX 导出与广告业务 ODS/DWD/ADS 全流程
大数据·后端·apache hive
武子康4 天前
大数据-235 离线数仓 - 实战:Flume+HDFS+Hive 搭建 ODS/DWD/DWS/ADS 会员分析链路
大数据·后端·apache hive
DianSan_ERP4 天前
电商API接口全链路监控:构建坚不可摧的线上运维防线
大数据·运维·网络·人工智能·git·servlet
够快云库4 天前
能源行业非结构化数据治理实战:从数据沼泽到智能资产
大数据·人工智能·机器学习·企业文件安全
AI周红伟4 天前
周红伟:智能体全栈构建实操:OpenClaw部署+Agent Skills+Seedance+RAG从入门到实战
大数据·人工智能·大模型·智能体
B站计算机毕业设计超人4 天前
计算机毕业设计Django+Vue.js高考推荐系统 高考可视化 大数据毕业设计(源码+LW文档+PPT+详细讲解)
大数据·vue.js·hadoop·django·毕业设计·课程设计·推荐算法
计算机程序猿学长4 天前
大数据毕业设计-基于django的音乐网站数据分析管理系统的设计与实现(源码+LW+部署文档+全bao+远程调试+代码讲解等)
大数据·django·课程设计
B站计算机毕业设计超人4 天前
计算机毕业设计Django+Vue.js音乐推荐系统 音乐可视化 大数据毕业设计 (源码+文档+PPT+讲解)
大数据·vue.js·hadoop·python·spark·django·课程设计