FusionInsight MRS云原生数据湖

FusionInsight MRS云原生数据湖

      • [1、FusionInsight MRS概述](#1、FusionInsight MRS概述)
      • [2、FusionInsight MRS解决方案](#2、FusionInsight MRS解决方案)
      • [3、FusionInsight MRS优势](#3、FusionInsight MRS优势)
      • [4、FusionInsight MRS功能](#4、FusionInsight MRS功能)

1、FusionInsight MRS概述

1.1、数据湖概述

数据湖是一个集中式存储库,允许以任意规模存储所有结构化和非结构化数据。可以按原样存储数据(无需先对数据进行结构化处理),并运行不同类型的分析, 从控制面板和可视化到大数据处理、实时分析和机器学习,以指导做出更好的决策

数据湖的价值在于它能够在更短的时间内从更多来源利用更多数据,并使用户能够以不同方式协同处理和分析数据,从而做出更好、更快的决策

1.2、FusionInsight概述

FusionInsight智能数据湖采用了领先的Lakehouse架构,将数据湖和数据仓库的优势融合在一起,提供了高效、规范、灵活、简洁的架构和低资源占用。这种架构降低了传统湖仓割裂导致的系统间复杂度,并减少了在湖、仓、AI开发之间来回迁移数据的工作

FusionInsight官网:https://www.huaweicloud.com/product/huaweicloudstack/fusioninsight.html

FusionInsight由4个子产品和1个操作运维系统组成:

  • Fusion Insight HD(大数据处理环境):一个分布式数据处理系统,对外提供大容量的数据存储、分析查询和实时流式数据处理分析能力
  • Fusion Insight MPPDB(并行处理关系型数据库):采用大规模并行处理(Massively Parallel Processing,MPP)架构,支持行存储和列存储,提供PB级数据量的处理能力
  • Fusion Insight Miner(数据分析平台):基于Fusion Insight HD的分布式存储和并行计算技术,提供从海量数据中挖掘有价值的信息
  • Fusion Insight Farmer(大数据应用容器):为企业业务提供统一开发、运行和管理的平台
  • Fusion Insight Manager(操作运维系统):提供高可靠、安全、容错、易用的集群管理能力,支持大规模集群的安装部署、监控、告警、用户管理、权限管理、审计、服务管理、健康检查、问题定位、升级和补丁等功能

FusionInsight包括多个云服务‌:MRS云原生数据湖、DWS云数据仓库、DGC数据湖治理中心、GES图引擎等


1.3、MRS概述

华为MRS(MapReduce Service)是华为云推出的一种大数据处理服务,基于开源的Hadoop生态系统,通过简化的大数据处理流程,为用户提供一个高效、灵活、安全的大数据计算平台

华为MRS不仅支持传统的批处理任务(如MapReduce),还支持Spark、Hive、HBase等多种大数据处理引擎,适用于各类数据分析、处理和存储任务

通过华为云MRS,企业可以在云环境中构建自己的大数据平台,进行数据存储、计算、分析和可视化,帮助企业处理海量数据并从中提取有价值的洞察

华为MRS作为一个高性能的大数据处理平台,提供了一种高效、可靠、安全的数据管理和分析平台,可以帮助企业和组织更好地管理和利用海量数据

MRS介绍:https://support.huawei.com/enterprise/zh/doc/EDOC1100328015/5984720e

MRS官网:https://www.huaweicloud.com/product/mrs.html

MRS功能总览:https://support.huaweicloud.com/intl/zh-cn/function-mrs/index.html

华为MRS的优势包括:

  • 计算存储分离

    MRS具备计算存储分离的先进架构,鲲鹏加持,多核高性价比

  • 灵活弹性伸缩

    资源灵活配比,可以选择多种计算和存储资源进行组合,按需自动弹性伸缩,大大降低上云成本

  • 完全兼容开源

    100%兼容开源生态接口,存算分离数据迁移,支持屏蔽OBS接口,业务无感知,客户业务代码"0"改动

  • 搬迁简单快速

    搬迁工具齐全,简单快速完成无业务中断迁移方案


1.4、FusionInsight MRS概述

FusionInsight MRS是华为FusionInsigth HD企业级大数据平台与华为云MRS服务的融合版本,是华为云(Huawei Cloud)、HCS(Huawei Cloud Stack)统一的企业级大数据云服务

FusionInsight MRS完全兼容开源组件接口,结合华为云计算、存储优势及大数据行业经验,为客户提供高性能、高性价比、灵活易用的全栈大数据平台,可以一站式运行Hadoop、Spark、HBase、Kafka、Flink等大数据组件,帮助企业快速构建海量数据处理系统

FusionInsight MRS针对开源组件进行了优化升级,提供全新能力,并在社区基础上对功能、性能、可靠性等方面进行了增强。例如,Hive支持Tez引擎,支持Flink On Hive等

2、FusionInsight MRS解决方案

FusionInsight MRS云原生数据湖让客户在一个Lakehouse湖仓一体架构上实现"三湖一集市",满足用户在建设数据湖过程中快速构建现代数据平台、持续演进的需求

3、FusionInsight MRS优势

FusionInsight MRS的优势包括:

4、FusionInsight MRS功能

FusionInsight MRS云原生数据湖提供三个核心功能:

4.1、离线数据湖:Lakehouse湖内建仓,分析链路短,建设周期短


4.2、实时数据湖:数据全链路实时分析,价值兑现从T+1到T+0


4.3、逻辑数据湖:跨湖协同分析,效率50倍提升

华为云FusionInsight MRS官方培训系列课程:https://bbs.huaweicloud.com/forum/thread-145085-1-1.html

参考文章:https://blog.csdn.net/qq_20042935/article/details/125068919

相关推荐
明明跟你说过2 分钟前
在【k8s】中部署Jenkins的实践指南
运维·ci/cd·云原生·容器·kubernetes·jenkins
a_j588 分钟前
k8s面试题总结(十)
云原生·容器·kubernetes
桂月二二3 小时前
基于WebAssembly的云原生运行时:重新定义轻量化微服务架构
云原生·架构·wasm
阿里云云原生4 小时前
深度测评国产 AI 程序员,在 QwQ 和满血版 DeepSeek 助力下,哪些能力让你眼前一亮?
云原生
张晋涛6 小时前
KCD 北京站丨云原生与AI的双向奔赴,超强Speakers阵容公开
云原生·aigc·线下活动
StableAndCalm8 小时前
什么是zookeeper
分布式·zookeeper·云原生
SelectDB技术团队9 小时前
云原生时代的架构革新,Apache Doris 存算分离如何实现弹性与性能双重提升
大数据·数据库·云原生·doris·存算分离
dessler13 小时前
DeepSeek-进阶版部署(Linux+GPU)
linux·运维·服务器·云原生·大模型·deepseek