Spark的Web界面

在顶部导航栏上,可以点击以下选项来查看不同类型的Spark应用信息:

  1. Jobs - 此视图将列出所有已提交的作业,并提供每个作业的详细信息,如作业ID、名称、开始时间、结束时间等。
  2. Stages - 此视图可以查看作业分解成的不同阶段,包括每个阶段的任务数、当前状态等。
  3. Storage - 此视图展示了数据如何在RDDs(弹性分布式数据集)之间进行分层存储,以及它们的缓存状态。
  4. Environment - 此视图列出了与Spark应用程序相关的环境变量和配置参数。
  5. Executors - 此视图提供了关于执行器的详细信息,包括内存使用情况、磁盘使用情况、任务统计等。

Apache Spark UI中的"Executors"页面,该页面提供了关于Spark应用程序中执行器的详细信息。执行器是Spark应用程序中负责执行任务的进程。以下是页面上各部分的介绍:

Summary

  • RDD Blocks: 当前存储在执行器上的RDD块数量。
  • Storage Memory: 执行器上用于存储的内存总量,以及当前已使用的存储内存。
  • Disk Used: 执行器上用于存储的磁盘空间总量,以及当前已使用的磁盘空间。
  • Cores: 执行器上可用的CPU核心数。
  • Active Tasks: 当前正在执行的任务数量。
  • Failed Tasks: 已经失败的任务数量。
  • Complete Tasks: 已经完成的任务数量。
  • Total Tasks: 执行器上总共处理的任务数量。
  • Task Time (GC Time): 执行器上所有任务的总执行时间,以及其中的垃圾回收时间。
  • Input: 任务处理的输入数据量。
  • Shuffle Read: 任务执行期间从其他执行器读取的shuffle数据量。
  • Shuffle Write: 任务执行期间写入的shuffle数据量。
  • Excluded: 被排除的执行器数量。

Executors

  • Executor ID: 执行器的唯一标识符。
  • Address: 执行器的网络地址。
  • Status: 执行器的状态,如Active(活跃)或Dead(已死)。
  • RDD Blocks: 执行器上存储的RDD块数量。
  • Storage Memory: 执行器上用于存储的内存总量,以及当前已使用的存储内存。
  • Disk Used: 执行器上用于存储的磁盘空间总量,以及当前已使用的磁盘空间。
  • Cores: 执行器上可用的CPU核心数。
  • Active Tasks: 当前正在执行的任务数量。
  • Failed Tasks: 已经失败的任务数量。
  • Complete Tasks: 已经完成的任务数量。
  • Total Tasks: 执行器上总共处理的任务数量。
  • Task Time (GC Time): 执行器上所有任务的总执行时间,以及其中的垃圾回收时间。
  • Input: 任务处理的输入数据量。
  • Shuffle Read : 任务执行期间从其他执行器读取的shuffle数据量。
  • Shuffle Write: 任务执行期间写入的shuffle数据量。
  • Thread Dump: 提供执行器的线程转储链接。
  • Heap Histogram: 提供执行器的堆内存使用情况的直方图链接。
  • Add Time: 执行器被添加到集群的时间。
  • Remove Time: 执行器从集群中移除的时间。

这个页面对于监控和调试Spark应用程序非常有用,因为它提供了关于执行器资源使用情况、任务状态和性能的详细信息。

相关推荐
罗小罗同学21 小时前
Nat Med发表SPARK智能体框架,可以自主思考、提出假设、设计实验并验证结果,让AI也能主动发现肿瘤生物学规律
大数据·人工智能·spark·医学图像处理
KaMeidebaby2 天前
卡梅德生物技术快报|Pull Down 实验在 lncRNA - 蛋白互作机制研究中的应用实例解析
大数据·前端·架构·spark·新浪微博
数据仓库_晨曦3 天前
【无标题】
大数据·sql·spark
元让_vincent3 天前
Spark 2.0:面向 Web 的 3DGS 可视化与大场景渲染平台详解
前端·3d·spark·渲染·轻量化·3dgs·lod
penngo3 天前
FlowLoom:基于 Apache Spark 的可视化数据处理平台
大数据·spark·apache
极光代码工作室3 天前
基于Spark的电商用户点击流分析系统
大数据·python·数据分析·spark·数据可视化
无关86883 天前
StarRocks 存算分离 + Spark + Hive Metastore + MinIO 数据湖搭建全流程
大数据·hive·spark
大帅点兵4 天前
设计一个金融交易监控系统
大数据·clickhouse·flink·spark·kafka·hbase
yumgpkpm5 天前
Hadoop(CDH6、CDP7)在Qwen3.7大模型训练中的作用,(含部署、运行操作步骤)
大数据·hive·hadoop·分布式·zookeeper·spark·kafka
ZPC82106 天前
DGX Spark 200G 跟 100G 设备的通讯协议
大数据·分布式·spark