SwanLab硬件监控:英伟达、昇腾、寒武纪

SwanLab在跟踪实验的过程中,会自动监控 机器的硬件资源情况,并记录到 「系统」图表 当中。

目前SwanLab已支持监控3款AI计算芯片华为昇腾英伟达寒武纪)的硬件资源情况,涵盖显卡利用率、显存占用率、显卡温度、显卡功率等指标。

除此之外,SwanLab还支持监控CPU内存硬盘等硬件资源情况。


很开心,我们与昇腾计算团队合作,为训练师提供更多的国产算力使用体验。

昇腾NPU监控案例

NPU监控图表:

AI芯片环境记录:

系统监控指标详解

SwanLab 在当前实验运行的机器上自动监控硬件资源情况,并为每个指标生成图表,统一展示在 「系统」图表 选项卡中。

采集策略与频率:SwanLab根据当前实验的持续运行时间,自动调整硬件数据采集的频率,以平衡数据粒度与系统性能,采集频率分为以下几档:

已采集数据点数 采集频率
0~10 10 秒/次
10~50 30 秒/次
50+ 60 秒/次

SwanLab 采集的硬件资源情况涵盖了GPU、NPU、CPU、系统内存、硬盘IO以及网络情况等多个与训练过程相关的指标。以下详细介绍每个部分的监控内容及其在图表展示中的意义。

1. GPU(NVIDIA)

在多卡机器上,每个GPU的资源情况都会单独记录,最终在图表中展示多条图线。

指标 描述
GPU Memory Allocated (%) GPU 显存使用率,表示此GPU的显存占用百分比。
GPU Memory Allocated (MB) GPU 显存使用率,表示此GPU的显存占用量,以MB为单位。该指标对应图表的纵坐标上限为所有GPU中的最大总显存。
GPU Utilization (%) GPU 利用率,表示此GPU的计算资源占用百分比。
GPU Temperature (℃) GPU 温度,表示此GPU的温度,以摄氏度为单位。
GPU Power Usage (W) GPU 功耗,表示此GPU的功耗,以瓦特为单位。

2. NPU(Ascend)

在多卡机器上,每个NPU的资源情况都会单独记录,最终在图表中展示多条图线。

指标 描述
NPU Utilization (%) NPU 利用率,表示此NPU的计算资源占用百分比。
NPU Memory Allocated (%) NPU 显存使用率,表示此NPU的显存占用百分比。
NPU Temperature (℃) NPU 温度,表示此NPU的温度,以摄氏度为单位。

3. MLU(寒武纪)

在多卡机器上,每个MLU的资源情况都会单独记录,最终在图表中展示多条图线。

指标 描述
MLU Utilization (%) MLU 利用率,表示此MLU的计算资源占用百分比。
MLU Memory Allocated (%) MLU 显存使用率,表示此MLU的显存占用百分比。
MLU Temperature (℃) MLU 温度,表示此MLU的温度,以摄氏度为单位。

4. CPU

指标 描述
CPU Utilization (%) CPU 利用率,表示此CPU的计算资源占用百分比。
Process CPU Threads CPU 线程数,表示当前运行的实验所使用的CPU总线程数。

5. 内存

指标 描述
System Memory Utilization (%) 系统内存使用率,表示当前系统的内存占用百分比。
Process Memory In Use (non-swap) (MB) 进程占用内存,当前进程实际占用的物理内存量(不包含交换区),直观反映实验运行时的内存消耗。
Process Memory Utilization (MB) 进程分配内存,当前进程分配的内存量(包含交换区),不一定是实际使用的内存量。
Process Memory Available (non-swap) (MB) 进程可用内存,当前进程可用的物理内存量(不包含交换区),即当前进程可以使用的内存量。

6. 硬盘

指标 描述
Disk IO Utilization (MB) 硬盘I/O,表示硬盘的读写速度,以MB/s为单位。读速率和写速率会在图表中作为两条图线,分开展示。
Disk Utilization (%) 硬盘使用情况,表示当前系统盘的使用率,以百分比为单位。

在Linux平台,取根目录/的使用率;若操作系统为Windows,则取系统盘(通常是C:)的使用率。

7. 网络

指标 描述
Network Traffic (KB) 网络I/O,表示网络的读写速度,以KB/s为单位。接收速率和发送速率会在图表中作为两条图线,分开展示。

表示网络的读写速度,以KB/s为单位。接收速率和发送速率会在图表中作为两条图线,分开展示。


相关推荐
至善迎风8 小时前
把 Python 应用打包成 Mac 应用程序 — 完整指南
python·macos
MYX_3098 小时前
第四章 神经网络的基本组件
pytorch·深度学习·神经网络·学习
OpenBayes8 小时前
教程上新|重新定义下一代 OCR:IBM 最新开源 Granite-docling-258M,实现端到端的「结构+内容」统一理解
人工智能·深度学习·机器学习·自然语言处理·ocr·图像识别·文档处理
应用市场8 小时前
无人机编队飞行原理与Python仿真实现完整指南
python·无人机·cocos2d
蓝桉~MLGT9 小时前
Python学习历程——字符串相关操作及正则表达式
python·学习·正则表达式
一晌小贪欢9 小时前
Python爬虫第5课:正则表达式与数据清洗技术
爬虫·python·正则表达式·网络爬虫·python爬虫·python3·网页爬虫
Nina_7179 小时前
Google提示词白皮书总结(2)
人工智能·python
Lynnxiaowen9 小时前
今天我们继续学习python3编程之python基础
linux·运维·python·学习
武子康9 小时前
AI-调查研究-105-具身智能 机器人学习数据采集:从示范视频到状态-动作对的流程解析
人工智能·深度学习·机器学习·ai·系统架构·机器人·具身智能
hui函数10 小时前
Python全栈(基础篇)——Day10:后端内容(map+reduce+filter+sorted+实战演示+每日一题)
后端·python