一文详解pyspark常用算子与API

rdd.glom()

对rdd的数据进行嵌套,嵌套按照分区来进行

cpp 复制代码
    rdd = sc.parallelize([1, 2, 3, 4, 5, 6, 7, 8, 9], 2)
    print(rdd.glom().collect())

输出:[[1,2,3,4],[5,6,7,8,9]]

参考

相关推荐
曾阿伦15 小时前
Spark flatMapToPair算子卡顿优化
大数据·分布式·spark
阿里云大数据AI技术15 小时前
阿里云 EMR Serverless Spark 发布 Agent Skill:让自然语言驱动 Spark 任务与资源管理
spark·agent
亚林瓜子20 小时前
AWS Glue PySpark中日志设置
python·spark·日志·aws·pyspark·log·glue
武子康1 天前
大数据-275 Spark MLib-集成学习:从Bagging到Boosting的群体智慧
大数据·后端·spark
阿里云大数据AI技术2 天前
EMR Serverless Spark 推出 Spark 4.0,加速湖仓架构下的数据处理升级
大数据·人工智能·spark
talen_hx2962 天前
《零基础入门Spark》学习笔记 Day 17
大数据·笔记·学习·spark
hf2000122 天前
深入分析:Iceberg v3「删除向量(Deletion Vectors, DV)」如何缓解 CDC 场景写放大
大数据·spark·数据湖·湖仓一体·lakehouse
武子康2 天前
大数据-274 Spark MLib-决策树剪枝完全指南:预剪枝与后剪枝原理对比
大数据·后端·spark
亚林瓜子2 天前
AWS Catalog中数据搬到Catalog中
大数据·python·spark·云计算·aws·pyspark·glue