一文详解pyspark常用算子与API

rdd.glom()

对rdd的数据进行嵌套,嵌套按照分区来进行

cpp 复制代码
    rdd = sc.parallelize([1, 2, 3, 4, 5, 6, 7, 8, 9], 2)
    print(rdd.glom().collect())

输出:\[1,2,3,4,5,6,7,8,9]

参考

相关推荐
用户36105886261221 分钟前
SparkSQL 之 Hive On Spark 原理分析
大数据·spark
for_ever_love__8 小时前
PySpark学习: 数据输出
开发语言·python·学习·spark
BYSJMG9 小时前
计算机毕业设计选题推荐:基于大数据的心脏病风险数据可视化与分析(Hadoop+Spark+PySpark)
大数据·hadoop·信息可视化·数据分析·spark·课程设计
cc复CC2 天前
从零开始手写 Spark 07|划分 Stage 与 DAG
spark
大菠萝爱上小西瓜2 天前
【大数据实战】Spark 2.2.2 完全分布式集群搭建
大数据·分布式·spark
阿里云大数据AI技术5 天前
Daft 多模态视频抽帧性能优化实践:从抽帧到大模型打标,一条视频理解流水线是怎么跑起来的
大数据·人工智能·spark
FserSuN6 天前
回顾Spark的概念与应用
大数据·分布式·spark
用户3610588626126 天前
SparkSQL 数据源与底层架构深度剖析
大数据·spark
用户3610588626126 天前
SparkSQL 之 DataFrame 与 DataSet 及实操演练
大数据·spark
BYSJMG6 天前
计算机毕业设计选题推荐|【基于大数据的城市噪音数据可视化分析】Spark+K-Means+FP-Growth实战
大数据·hadoop·信息可视化·spark·课程设计