【Hadoop】- MapReduce概述[5]

目录

前言

[一、分布式计算框架 - MapReduce](#一、分布式计算框架 - MapReduce)

二、MapReduce执行原理


前言

MapReduce是一种分布式计算框架,由Google开发。它的设计目标是将大规模数据集的处理和生成任务分布到一个由廉价计算机组成的集群中。

在MapReduce模型中,输入数据被分割成若干小块,并在集群中的多个节点上并行处理。每个节点执行"map"函数,将输入数据转换为一组键值对。这些键值对将进行洗牌和排序,并将生成的中间数据发送到"reduce"函数。

"reduce"函数将中间数据进行处理,将其合并为最终结果或输出。它根据所需的计算或分析对数据进行聚合和分析。

MapReduce提供了容错机制,系统可以通过将工作负载重新分配到其他节点来自动处理单个节点的失败。它还提供了可扩展性,可以通过添加更多的节点来处理更大的数据集或增加的处理需求。

MapReduce广泛用于大数据处理应用,例如分布式网络索引、日志分析和数据挖掘。它对其他数据处理系统的发展产生了影响,如Apache Hadoop。

一、分布式计算框架 - MapReduce

MapReduce是"分散"->"汇总"模式的分布式计算框架,可供开发人员开发相关程序进行分布式数据计算。MapRduce提供了2个编程接口:

  • Map
  • Reduce

其中

  • Map功能接口提供了"分散"的功能,有服务器分布式对数据进行处理
  • Reduce功能接口提供了"汇总"的功能,将分布式的处理结果汇总统计

用户如需使用MapReduce框架完成自定义需求的程序开发,只需要使用Java、Python等编程语言,实现Map Reduce功能接口即可。

二、MapReduce执行原理

现在,我们借助一个案例,简单分析MapReduce是如何完成分布式计算的。

假设有如下文件,内部记录了许多的单词。并且已经开发好了一个MapReduce程序,功能是统计每个单词出现的次数。

假设有4台服务器用以执行MapReduce任务,可以3台服务器执行Map,1台服务器执行Reduce

总结

1、什么是MapReduce

  • MapReduce是Hadoop中的分布式计算组件
  • MapReduce可以以分散->汇总模式执行分布式计算任务

2、MapReduce的主要编程接口

  • map接口,主要提供"分散"功能,有服务器分布式处理数据
  • reduce接口,主要提供"汇总"功能,进行数据汇总统计得到结果
  • MapReduce可供Java、Python等语言开发计算程序
相关推荐
wafrdggh10 小时前
2026电商快递批量查询怎么用?固乔助手模板设置评测
大数据·数据库·小程序
大大大大晴天12 小时前
OLTP、OLAP、数据湖、数据集市、湖仓一体到底是什么关系?
大数据
正在走向自律15 小时前
AI Agent 落地这一年:从“能跑起来”到“敢放出去”
大数据·人工智能·ai agent·智能体·mcp·a2a
freejackman16 小时前
【实战二】字段级血缘追踪:拆解 AST 迷局,精准穿透函数链与子查询
大数据·数据库·sql
goujunwe17 小时前
GEO 内容的“可摘录性”打磨技巧:段落、表格、小标题怎么写,方便大模型提取独立答案块
大数据·人工智能
小田学Python17 小时前
DeepSeek Harness 完整上手指南:安装部署 + 必装插件 + 用一周就回不去的功能
大数据·大模型·agent·ai工具·deepseek
成都蜀味缘餐饮技术培训学校21 小时前
手撕烤兔技术培训实战指南,秘制腌料配方比例与调制手法
大数据·经验分享·笔记·其他·微信公众平台
roman_日积跬步-终至千里21 小时前
AI 能让一个人成为团队吗?从数据中台到 OPC,重新理解软件工程能力
大数据·人工智能·软件工程
演艺大赏1 天前
NiFi 数据流实战:FTP→HDFS 与 CSV→Parquet,附坏数据、漏文件与双写
大数据
数字新视界1 天前
动环监控信创适配在智能机房管理中的应用价值与未来展望
大数据·服务器·数据库·动环监控系统·动力与环境监控系统