MapReduce面试重点

文章目录

  • [1. 简述MapReduce整个流程](#1. 简述MapReduce整个流程)

1. 简述MapReduce整个流程

  • 数据划分(Input Splitting):开始时,输入数据被分割成逻辑上的小块,每个块被称为Input Split。

  • 映射(Map):每个Input Split 由一个或多个Map任务处理,这些任务通过映射函数(Map函数)将数据处理成中间键值对。

  • 合并(Shuffle and Sort):中间键值对被分发到不同节点,以便相同键的值能被发送到同一个Reduce任务,同时对键进行排序,确保相同的键在Reduce阶段按顺序到达。

  • 归约(Reduce):Reduce任务接收来自Map阶段的中间键值对,并根据归约函数(Reduce函数)将它们合并成更小的一组值。

  • 输出(Output):Reduce阶段生成的结果被写入输出目标,如文件系统中的文件或数据库中的表格,作为MapReduce过程的最终结果。

相关推荐
演艺大赏1 小时前
三个坑连环套:一次 NameNode 起不来,从 JournalNode 未格式化查到配置里多了个挂载点
大数据·hadoop
Aloudata2 小时前
服饰零售数据治理如何统一款色码与库存口径,支撑门店售罄率和补货分析?
大数据·数据分析·零售
躺柒2 小时前
读数据分析思维通识课07数据思维图
大数据·数据挖掘·数据分析·大数据分析·数据思维图
回眸&啤酒鸭4 小时前
【回眸】Hy4 模型效果展示与能力评测大纲
大数据·人工智能·机器学习
伞伞悦读5 小时前
【第86期】分类指标与错误成本对照的实验与排查
大数据·人工智能·机器学习
金融小师妹9 小时前
多因子关联模型:黄金与铜价同步回落背后的金融变量及PPI传导分析
大数据·人工智能·金融
TDengine (老段)20 小时前
TDengine IDMP 功能点—数据接入
大数据·数据库·物联网·时序数据库·tdengine·涛思数据
bksczm1 天前
InnoDB 通用表空间与临时表空间详解
大数据·数据库·mysql
阿里云大数据AI技术1 天前
AI 原生大数据服务 ADA 快速入门:完成首次对话式数据分析
大数据·人工智能
衡石科技1 天前
企业级 BI 的安全治理:衡石如何贯通认证、数据权限与审计
大数据·人工智能·安全·商业智能