Hadoop MapReduce

MapReduce 分为两个阶段,分为Map 阶段和Reduce 阶段,可以自定义map函数 和reduce函数 ,

map函数 的输入是行在文件的字节偏移量 ,value是文件的一行数据。

reduce函数 的输入是key 和对应key的value组 ,然后reduce函数 可以对这一组数据进行处理

再来看mapreduce是如何实现的,因为可以知道reduce阶段 的value是一组 的,包括mapreduce还发生了文件读取 和写入文件的操作,包括一些序列化

当有一个文件 时,文件 在底层操作系统 是很多个数据块,

map 是以数据切片 逻辑进行处理 的,所以当读取文件数据 时,会对物理文件 进行逻辑切片 ,然后一个切片 就对应一个MapTask ,尽量 保证切片大小等于数据块大小 ,让一个MapTask 直接本地处理 ,加快处理速度

Map 阶段处理逻辑 ,map读入文件的每行数据 ,然后以key-value 的方式处理输出到一个分区 ,输出到哪个分区 取决于默认 的还是自定义分区处理 了,默认 是根据键的哈希值确定分区。

分区 其实是先保存到一个环形缓存区 ,当环形缓存区达到一定阈值 的时候,就会把缓冲区数据落盘 ,落盘前 会对分区内 的数据 进行快速排序 ,如果有多个小文件 ,会对多个小文件进行归并排序 ,合成一个大文件,然后分区和reduceTask的数量一样。

reduce 阶段,reduce可会读取所有mapTask 对应分区的所有文件 ,如果有多个文件 ,也会进行归并排序 ,这样就保证了Reduce函数的输入里的value,是一个相同Key的value集合 。然后经过reduceTask函数进行数据处理,最终输出,输出文件数 也跟reduceTask的个数 相关,reduceTask的数目不能大于分区数目

相关推荐
2603_954708311 分钟前
微能网的核心硬件协调控制装置有哪些功能?
大数据·运维·人工智能·架构·能源
T06205147 分钟前
【工具变量】“国家级大数据综合试验区”政策试点DID(2000-2025年)
大数据
samFuB21 分钟前
【数据集】A股上市企业劳动雇佣与稳就业数据(dta+xlsx)2010-2024年
大数据
jerryinwuhan28 分钟前
高职院校数据治理与数智校园建设规划方案 ——基于DCMM扩展模型的数据治理体系与数据资产建设路径
大数据
Eric.4642 分钟前
2025 深度实战:本地部署 AI 漫剧与 AI 视频全量产方案,彻底解决云端画质抖动、角色漂移、成本超标
大数据·人工智能·音视频·comfyui·ai漫剧
计算机毕业编程指导师1 小时前
计算机毕设怎么做?Python+Hadoop的跨平台消费者评论情感分析与数据可视化系统实战 源码 毕业设计 选题推荐 毕设选题 数据分析
大数据·hadoop·python·计算机·spark·课程设计·消费者评论
搬砖小趴菜1 小时前
【科研速递】Applied Sciences | 冻融循环作用下玄武岩的三轴力学行为与强度模型:对寒区工程结构的意义
大数据·论文阅读·人工智能·全文检索·ai自动写文章
Devlive 开源社区10 小时前
AuthX 正式更名 GrantForge:我们重新做了一遍权限管理系统
大数据·人工智能·架构
楚楚25110 小时前
2026企业AI办公工具选型指南:落地评估与效果衡量体系
大数据·人工智能
卷毛迷你猪12 小时前
快速实验篇(B16)用户级预测可行性审计(否定性意见)
大数据·hadoop·数据挖掘·聚类