Spark广播变量(类似小表广播)

广播变量:

举例:取前十的学生信息,处理学生分数信息得到前十学生的学号的数组,通过广播将这个变量广播出去

代码展示如下:

java 复制代码
import org.apache.spark.broadcast.Broadcast
import org.apache.spark.rdd.RDD
import org.apache.spark.{SparkConf, SparkContext}

object Demo17Bro {
  def main(args: Array[String]): Unit = {
    val conf = new SparkConf()
    conf.setAppName("Demo17Bro")
    conf.setMaster("local")

    val sc = new SparkContext(conf)

    //获取总分前十学生的信息

    //1、计算学生的总分
    val sumScoreRDD: RDD[(String, Double)] = sc
      .textFile("data/score.txt")
      .map(_.split(","))
      .map { case Array(id, cId, score) => (id, score.toDouble) }
      .reduceByKey(_ + _)

    //2、取前十
    val ids: Array[String] = sumScoreRDD
      .sortBy { case (_, sumScore) => -sumScore }
      .take(10)
      .map { case (id, sumScore) => id }

    /**
     * 广播变量:当在算子内使用算子外的一个大变量时,同时task的数量远大于Executor数量时,可以将变量广播出去
     */
    //1、将变量广播到Executor端
    val broIds: Broadcast[Array[String]] = sc.broadcast(ids)

    //3、读取学生的信息
    val studentsRDD: RDD[String] = sc.textFile("data/students.txt")

    //4、取出前十学生的信息
    val top10RDD: RDD[String] = studentsRDD
      .filter(stu => {
        //取出学号
        val id: String = stu.split(",").head

        //2、获取广播变量
        broIds.value.contains(id)
      })

    top10RDD.foreach(println)
  }
}
相关推荐
宝哥网络砖家5 小时前
软路由品牌推荐先看设备站在哪一层
网络·软路由·routeros
时间的拾荒人5 小时前
Linux 系统命令与网络、磁盘、日志监控(下篇):性能原理与优化
linux·运维·网络
nice_lcj5208 小时前
【从零理解计算机网络 · 13】DNS 解析全流程:域名怎么变成 IP,慢在哪
网络·计算机网络·面试·dns·域名解析·cname·ttl
张张123y16 小时前
个人助手型 Agent 的六个工程细节:Hermes 与 OpenClaw 的审批、委派、上下文与调度
网络·人工智能·开源·后端开发·ai agent
nice_lcj52017 小时前
【从零理解计算机网络 · 15】完整串联:一次请求的全旅程,以及那道经典面试题
网络·计算机网络·http·面试·tcp·总结·网络排查
光电笑映1 天前
TCP 为什么可靠?从三次握手、滑动窗口到拥塞控制全面拆解(下)
linux·网络·网络协议·tcp
如夏倾城1 天前
入侵检测系统(IDS)原理、部署模式与 IPS/防火墙对比
大数据·网络·人工智能·网络安全·云原生·架构·kubernetes
LabVIEW开发1 天前
LabVIEW 用 25 ns 精度捕捉赛车发动机共振
网络·labview·labview知识·labview功能·labview程序
赤生云电竞2 天前
云游戏边缘节点部署实践:机房选址与网络拓扑选型
网络·游戏·php
ITxiaobing20232 天前
中国广告技术公司海外反欺诈中的 IP 应用:从“库查询”到“多层信号”
网络·tcp/ip·web安全