Spark的Web界面

在顶部导航栏上,可以点击以下选项来查看不同类型的Spark应用信息:

  1. Jobs - 此视图将列出所有已提交的作业,并提供每个作业的详细信息,如作业ID、名称、开始时间、结束时间等。
  2. Stages - 此视图可以查看作业分解成的不同阶段,包括每个阶段的任务数、当前状态等。
  3. Storage - 此视图展示了数据如何在RDDs(弹性分布式数据集)之间进行分层存储,以及它们的缓存状态。
  4. Environment - 此视图列出了与Spark应用程序相关的环境变量和配置参数。
  5. Executors - 此视图提供了关于执行器的详细信息,包括内存使用情况、磁盘使用情况、任务统计等。

Apache Spark UI中的"Executors"页面,该页面提供了关于Spark应用程序中执行器的详细信息。执行器是Spark应用程序中负责执行任务的进程。以下是页面上各部分的介绍:

Summary

  • RDD Blocks: 当前存储在执行器上的RDD块数量。
  • Storage Memory: 执行器上用于存储的内存总量,以及当前已使用的存储内存。
  • Disk Used: 执行器上用于存储的磁盘空间总量,以及当前已使用的磁盘空间。
  • Cores: 执行器上可用的CPU核心数。
  • Active Tasks: 当前正在执行的任务数量。
  • Failed Tasks: 已经失败的任务数量。
  • Complete Tasks: 已经完成的任务数量。
  • Total Tasks: 执行器上总共处理的任务数量。
  • Task Time (GC Time): 执行器上所有任务的总执行时间,以及其中的垃圾回收时间。
  • Input: 任务处理的输入数据量。
  • Shuffle Read: 任务执行期间从其他执行器读取的shuffle数据量。
  • Shuffle Write: 任务执行期间写入的shuffle数据量。
  • Excluded: 被排除的执行器数量。

Executors

  • Executor ID: 执行器的唯一标识符。
  • Address: 执行器的网络地址。
  • Status: 执行器的状态,如Active(活跃)或Dead(已死)。
  • RDD Blocks: 执行器上存储的RDD块数量。
  • Storage Memory: 执行器上用于存储的内存总量,以及当前已使用的存储内存。
  • Disk Used: 执行器上用于存储的磁盘空间总量,以及当前已使用的磁盘空间。
  • Cores: 执行器上可用的CPU核心数。
  • Active Tasks: 当前正在执行的任务数量。
  • Failed Tasks: 已经失败的任务数量。
  • Complete Tasks: 已经完成的任务数量。
  • Total Tasks: 执行器上总共处理的任务数量。
  • Task Time (GC Time): 执行器上所有任务的总执行时间,以及其中的垃圾回收时间。
  • Input: 任务处理的输入数据量。
  • Shuffle Read : 任务执行期间从其他执行器读取的shuffle数据量。
  • Shuffle Write: 任务执行期间写入的shuffle数据量。
  • Thread Dump: 提供执行器的线程转储链接。
  • Heap Histogram: 提供执行器的堆内存使用情况的直方图链接。
  • Add Time: 执行器被添加到集群的时间。
  • Remove Time: 执行器从集群中移除的时间。

这个页面对于监控和调试Spark应用程序非常有用,因为它提供了关于执行器资源使用情况、任务状态和性能的详细信息。

相关推荐
zhang98800008 小时前
储能领域大数据平台的设计中如何使用 Hadoop、Spark、Flink 等组件实现数据采集、清洗、存储及实时 / 离线计算,支持储能系统分析与预测
大数据·hadoop·spark
数据慢想9 小时前
从2小时到3分钟:Spark SQL多维分析性能优化实战
spark
计算机毕设残哥2 天前
完整技术栈分享:基于Hadoop+Spark的在线教育投融资大数据可视化分析系统
大数据·hadoop·python·信息可视化·spark·计算机毕设·计算机毕业设计
计算机源码社3 天前
分享一个基于Hadoop+spark的超市销售数据分析与可视化系统,超市顾客消费行为分析系统的设计与实现
大数据·hadoop·数据分析·spark·计算机毕业设计源码·计算机毕设选题·大数据选题推荐
码界筑梦坊3 天前
135-基于Spark的抖音数据分析热度预测系统
大数据·python·数据分析·spark·毕业设计·echarts
计算机毕业设计木哥4 天前
计算机毕设大数据选题推荐 基于spark+Hadoop+python的贵州茅台股票数据分析系统【源码+文档+调试】
大数据·hadoop·python·计算机网络·spark·课程设计
请提交用户昵称4 天前
Spark运行架构
大数据·架构·spark
计算机毕业设计木哥4 天前
基于大数据spark的医用消耗选品采集数据可视化分析系统【Hadoop、spark、python】
大数据·hadoop·python·信息可视化·spark·课程设计
卖寂寞的小男孩4 天前
Spark执行计划与UI分析
ui·ajax·spark
计算机毕设-小月哥5 天前
【限时分享:Hadoop+Spark+Vue技术栈电信客服数据分析系统完整实现方案
大数据·vue.js·hadoop·python·信息可视化·spark·计算机毕业设计