spark-core

RDD行动算子:行动算子就是会触发action的算子,触发action的含义就是真正的计算数据。

reduce ➢

函数说明聚集 RDD 中的所有元素,先聚合分区内数据,再聚合分区间数据。

collect➢

函数签名def collect(): ArrayT➢ 函数说明在驱动程序中,以数组 Array 的形式返回数据集的所有元素

  1. foreach➢ 函数签名def foreach(f: T => Unit): Unit = withScope { val cleanF = sc.clean(f) sc.runJob(this, (iter: IteratorT) => iter.foreach(cleanF))}➢ 函数说明分布式遍历 RDD 中的每一个元素,调用指定函数

  2. count➢ 函数签名def count(): Long➢ 函数说明返回 RDD 中元素的个数

  3. first➢ 函数签名def first(): T➢ 函数说明返回 RDD 中的第一个元素

  4. take➢ 函数签名def take(num: Int): ArrayT➢ 函数说明返回一个由 RDD 的前 n 个元素组成的数组

  5. takeOrdered➢ 函数签名def takeOrdered(num: Int)(implicit ord: OrderingT): ArrayT➢ 函数说明返回该 RDD 排序后的前 n 个元素组成的数组

相关推荐
starzy199012 小时前
SparkStreaming 之配置参数详解
大数据·spark
starzy199012 小时前
SparkStreaming 之 DStream 底层结构剖析
大数据·spark
阿里云大数据AI技术1 天前
从 Common Crawl 到可训练语料:用 EMR Serverless Daft 构建清洗、模型标注与向量化管线
人工智能·spark
凉凉的知识库1 天前
一文讲清 Spark 集群队列:YARN 多租户、容量隔离与资源共享
大数据·spark·yarn
markvivv1 天前
【译】适合在RTX 5090、DGX Spark或类似机器上可运行的最佳新模型是什么?
大数据·人工智能·spark
FYKJ_20101 天前
django学习成绩预警系统10905
java·javascript·spring boot·python·spark·django·php
逸Y 仙X1 天前
Spark SQL
java·大数据·sql·spark
starzy19902 天前
SparkStreaming 之接收数据原理剖析
大数据·spark
用户3610588626122 天前
SparkSQL 之 Hive On Spark 原理分析
大数据·spark
for_ever_love__2 天前
PySpark学习: PySpark数据计算
python·学习·spark