分布式通用计算——MapReduce(重点在shuffle 阶段)

图片均来源于B站:哈喽鹏程

面向批处理的分布式计算框架------MapReduce

  • [1、Mapreduce 起源](#1、Mapreduce 起源)
  • 2、适用场景
  • [3、MapReduce 词频统计原理](#3、MapReduce 词频统计原理)

1、Mapreduce 起源


2、适用场景

3、MapReduce 词频统计原理

  • map 阶段到reduce阶段,通过hash取模来实现reduce 。比如:有4个reduce块,通过将map<key,value>中的key转换为数值,除以4.取模进行归类。


相关推荐
纪元A梦1 小时前
分布式拜占庭容错算法——PBFT算法深度解析
java·分布式·算法
人大博士的交易之路1 小时前
今日行情明日机会——20250606
大数据·数学建模·数据挖掘·数据分析·涨停回马枪
Leo.yuan4 小时前
数据库同步是什么意思?数据库架构有哪些?
大数据·数据库·oracle·数据分析·数据库架构
SelectDB技术团队5 小时前
从 ClickHouse、Druid、Kylin 到 Doris:网易云音乐 PB 级实时分析平台降本增效
大数据·数据仓库·clickhouse·kylin·实时分析
Web极客码6 小时前
在WordPress上添加隐私政策页面
大数据·人工智能·wordpress
TCChzp6 小时前
Kafka入门-消费者
分布式·kafka
Apache Flink6 小时前
Flink在B站的大规模云原生实践
大数据·云原生·flink
itachi-uchiha7 小时前
Docker部署Hive大数据组件
大数据·hive·docker
viperrrrrrrrrr78 小时前
大数据学习(131)-Hive数据分析函数总结
大数据·hive·学习
FakeOccupational9 小时前
【p2p、分布式,区块链笔记 MESH】Bluetooth蓝牙通信 BLE Mesh协议的拓扑结构 & 定向转发机制
笔记·分布式·p2p