Spark中的宽窄依赖

一、什么是依赖关系

这里通过一张图来解释:

result_rdd是由tuple_rdd使用reduceByKey算子得到的, 而tuple_rdd是由word_rdd使用map算子得到的,word_rdd又是由input_rdd使用flatMap算子得到的。它们之间的关系就称为依赖关系!

二、什么是宽窄依赖

  • 窄依赖:父RDD的一个分区的数据只给了子RDD的一个分区 【不用经过Shuffle】

特点:一对一或者多对一不经过Shuffle,性能相对较快, 但无法实现全局分区、排序、分组等

一个Stage内部的计算都是窄依赖的过程,全部在内存中 完成。

  • 宽依赖:父RDD的一个分区的数据给了子RDD的多个分区【需要调用Shuffle的分区器来实现】

特点:一对多,必须经过Shuffle,性能相对较慢,可以实现全 局分区、排序、分组等

Spark的job中按照宽依赖来划分 Stage

宽窄依赖本质:只是一种标记,标记两个RDD之间的依赖关系

三、为什么要标记宽窄关系

1、提高数据容错的性能,避免分区数据丢失时,需要重新构建整个RDD

**举例:**如果子RDD的某个分区的数据丢失

  • 不标记:不清楚父RDD与子RDD数据之间的关系,必须重新构建整个父RDD所有数据
  • 标记了:父RDD一个分区只对应子RDD的一个分区,按照对应关系恢复父RDD的对应分区即可

2、提高数据转换的性能,将连续窄依赖操作使用同一个Task都放在内存中直接转换

**举例:**如果RDD需要多个map、flatMap、filter、 reduceByKey、sortByKey等算子的转换操作

  • 不标记:每个转换不知道会不会经过Shuffle,都使用不同的 Task来完成,每个Task的结果要保存到磁盘
  • 标记了:多个连续窄依赖算子放在一个Stage中,共用一套 Task在内存中完成所有转换,性能更快。
相关推荐
组合缺一18 分钟前
OpenSolon v3.9.3, v3.8.5, v3.7.5, v3.6.8 年货版发布
java·人工智能·分布式·ai·llm·solon·mcp
TDengine (老段)27 分钟前
TDengine IDMP 数据可视化 6. 资产列表
大数据·数据库·物联网·时序数据库·tdengine·涛思数据
天辛大师27 分钟前
天辛大师最新著作命理学三千问与AI全息智能体(首发)
大数据·人工智能·决策树·随机森林·启发式算法
档案宝档案管理33 分钟前
从台账到检索,全面提升档案管理的便捷性和安全性
大数据·人工智能·档案·档案管理
Elastic 中国社区官方博客34 分钟前
使用 Elasticsearch 和 LLMs 进行实体解析,第 1 部分:为智能实体匹配做准备
大数据·人工智能·elasticsearch·搜索引擎·全文检索
数新网络44 分钟前
数新智能 CyberEngine 大数据引擎管理平台焕新升级
大数据
WZgold1411 小时前
新手入门:预判黄金行情需参考哪些关键数据?
大数据·经验分享
藦卡机器人1 小时前
国产激光焊接机器人品牌
大数据·人工智能·机器人
云边有个稻草人1 小时前
大数据时代时序数据库选型深度指南:Apache IoTDB的技术内核与场景落地
大数据·apache·时序数据库·apache iotdb
一只鱼丸yo1 小时前
分布式系统的心脏:Raft共识算法原理深度解析
分布式·系统架构·共识算法