L2 数据仓库和Hive环境配置

1.数据仓库架构

  • 数据仓库DW主要是一个用于存储,分析,报告的数据系统。
  • 数据仓库的目的是面向分析的集成化数据环境,分析结果为企业提供决策支持。
  • -DW不产生和消耗数据
  • 结构数据:数据库中数据,CSV文件 直接导入DW
  • 非结构数据:基本数据处理后导入DW
    针对部门需求可以做不同DW,为一个数据集市,最终目的是做一个数据应用,报表等

数据仓库分层

  • 数据仓库分层:针对多种数据表的情况,根据业务场景进行分层融合和合并。

用于报表的数据,每个指标出现了几次 ------ 应用层

二、怎么实现数仓 - Hive

  • Hive是基于Hadop的DW工具,用来进行数据提取,转化,加载,是一种大规模数据机制。
  • Hive数据仓库工作将结构化的数据文件映射为一张数据库表,并提供SQL查询功能,能将SQL语句转变成MapReduce任务来执行。

    利用Hive可以直接在SQL上层编写语句,通过SQL Parser解析器转换为Java程序。
    元数据组件存放映射的表。

Hive特点:

  • 适合ETL,报表查询,数据分析等数据仓库任务
  • Hive支持运行在不同的计算框架上,MapReduce,Spark等
  • 支持Java数据库连接
  • 避免编写复杂的MapReduce任务
  • 可直接使用Hadoop文件系统中的数据

Hive和Hadoop

  • Hive利用HDFS存储数据,MapReduce查询分析数据
  • Hadoop是自己实现了上述两种能力。

Hive适应场景

  • Hive适用于结构化数据的离线分析
  • Hive的执行延迟较高
  • Hive适合处理大批量数据

Hive与MySql

  • Hive面向分析,MySql面向业务

3.Hive安装

最终直接写SQL语句就行,不要管MapReduce任务

相关推荐
RestCloud8 小时前
典型的ETL使用场景与数据集成平台的应用
数据仓库·etl·数字化转型·数据迁移·数据集成·实时cdc
weixin_307779139 小时前
使用C#配置信息类的属性生成Snowflake CREATE STAGE语句
开发语言·数据仓库·hive·c#
chat2tomorrow16 小时前
数据仓库的核心架构与关键技术(数据仓库系列二)
数据仓库·低代码·架构·spark·bi·数据中台·sql2api
编程在手天下我有17 小时前
一文读懂数据仓库:从概念到技术落地
数据仓库
Blossom.11818 小时前
低代码开发:重塑软件开发的未来
数据仓库·人工智能·深度学习·低代码·机器学习·database·数据库架构
IT成长日记18 小时前
【Hadoop入门】Hadoop生态圈概述:核心组件与应用场景概述
大数据·hadoop·分布式
XF鸭2 天前
在Hive中,将数据从一个表查询并插入到另一个表
数据仓库·hive·hadoop
viperrrrrrrrrr72 天前
大数据学习(96)-Hive面试题
大数据·hive·学习
麻芝汤圆2 天前
MapReduce 的广泛应用:从数据处理到智能决策
java·开发语言·前端·hadoop·后端·servlet·mapreduce
随缘而动,随遇而安2 天前
第四十篇 企业级数据仓库建模深度实践:从理论到落地的维度建模全攻略
大数据·数据库·数据仓库·数据分析·数据库架构