3.4 理解RDD依赖

本次实战通过代码验证了 RDD 的窄依赖与宽依赖特性。窄依赖以 map 算子为例,Spark UI 显示仅有一个 Stage,无 Shuffle 读写,且操作前后分区数(2)和元素数(5)保持不变,体现了一对一的高效流水线计算。宽依赖以 reduceByKey 为例,UI 显示作业被切分为两个 Stage,存在 Shuffle 读写数据,验证了"一对多"的重分布过程;操作后分区数虽保持为 2,但元素数由 5 减至 3,体现了聚合功能。

相关推荐
howard20054 天前
3.8.5 利用RDD统计网站每月访问量
spark rdd·网站每月访问量
howard20058 天前
3.8.3 利用RDD统计每日新增用户
spark rdd·每日新增用户数
howard20059 天前
3.8.4 利用RDD实现分组排行榜
spark rdd·top n
howard20051 个月前
2.4.1 词频统计准备工作
spark rdd·词频统计准备
howard20055 个月前
Spark实战:使用spark-submit提交并执行JAR包
spark rdd·spark-submit
howard20055 个月前
PySpark实战 - 1.1 利用RDD实现词频统计
pyspark·词频统计·spark rdd