数据仓库是一个数据集合,支持管理决策。具备面向主题、异构数据源集成、相对稳定以及保留历史变化的特征。
1. 数据仓库的基本特征
- 面向主题:数据仓库以业务主题为核心进行组织,比如销售、客户、财务等,便于针对特定业务进行分析。
- 集成性:将来自不同数据源(日志、数据库等)的数据进行统一整合,消除数据孤岛。
- 相对稳定:数据仓库的数据不是实时变化的,而是定期批量更新,适合历史分析和趋势洞察。
- 反映历史变化:保留历史数据,支持时间序列分析、趋势预测等管理决策需求。
2. 核心价值
- 事务处理与决策支持分离:数据仓库将操作型系统(如业务数据库)的事务处理和分析型系统的决策支持分开,避免分析查询影响业务系统性能和稳定性。
- 单一可信的数据源:通过集成、清洗、统一标准,数据仓库成为企业分析和决策的唯一可信数据源,杜绝数据口径不一致、重复计算等问题。
- 保障数据口径一致性:统一数据规格和标准,确保不同分析场景下的数据解释一致。
3. 数据处理流程
- 原始数据分散:企业原始数据散落在日志文件、数据库表等不同地方,存在数据质量和格式不统一问题。
- 数据清洗与集成:数据仓库负责清洗脏数据、统一数据规格、构建宽表(宽表即包含多个维度和指标的大表),输出高质量的分析数据集。
- 类似特征工程:整个过程类似机器学习中的特征工程,包括数据清洗、归一化、特征组合,提升数据可用性和分析价值。
4. 数据仓库与分析型应用的关系
- 标准数据模型/接口:数据仓库通过标准的数据模型(类似API接口)对外提供数据服务,分析型应用(如报表、BI)通过调用数据仓库获取数据,而不是直接访问业务数据库。
- 保护业务系统:这种架构避免了分析型应用直接"骚扰"在线业务数据库,保障业务系统的性能和安全。
5. 总结与价值体现
这段话强调了数据仓库在企业数据管理中的桥梁作用:既保证了数据分析的高质量和高效率,又保护了业务系统的稳定运行。通过标准化、集成、清洗和建模,数据仓库成为企业决策的核心数据资产,同时为各类分析型应用提供一致、可靠的数据支持。