分布式通用计算——MapReduce(重点在shuffle 阶段)

图片均来源于B站:哈喽鹏程

面向批处理的分布式计算框架------MapReduce

  • [1、Mapreduce 起源](#1、Mapreduce 起源)
  • 2、适用场景
  • [3、MapReduce 词频统计原理](#3、MapReduce 词频统计原理)

1、Mapreduce 起源


2、适用场景

3、MapReduce 词频统计原理

  • map 阶段到reduce阶段,通过hash取模来实现reduce 。比如:有4个reduce块,通过将map<key,value>中的key转换为数值,除以4.取模进行归类。


相关推荐
晟诺数字人4 分钟前
2026年海外直播变革:数字人如何改变游戏规则
大数据·人工智能·产品运营
惊讶的猫4 分钟前
rabbitmq实践小案例
分布式·rabbitmq
vx_biyesheji00018 分钟前
豆瓣电影推荐系统 | Python Django 协同过滤 Echarts可视化 深度学习 大数据 毕业设计源码
大数据·爬虫·python·深度学习·django·毕业设计·echarts
2501_9436953317 分钟前
高职大数据与会计专业,考CDA证后能转纯数据分析岗吗?
大数据·数据挖掘·数据分析
实时数据34 分钟前
通过大数据的深度分析与精准营销策略,企业能够有效实现精准引流
大数据
禁默1 小时前
打破集群通信“内存墙”:手把手教你用 CANN SHMEM 重构 AIGC 分布式算子
分布式·重构·aigc
子榆.1 小时前
CANN 性能分析与调优实战:使用 msprof 定位瓶颈,榨干硬件每一分算力
大数据·网络·人工智能
新芒1 小时前
暖通行业两位数下滑,未来靠什么赢?
大数据·人工智能
忆~遂愿2 小时前
CANN ATVOSS 算子库深度解析:基于 Ascend C 模板的 Vector 算子子程序化建模与融合优化机制
大数据·人工智能
惊讶的猫2 小时前
rabbitmq初步介绍
分布式·rabbitmq