从推理到训练:Intel Ultra 核显 GPU 加速 YOLO 模型训练

一、 基于 Intel GPU 加速 PyTorch 模型训练

在本专栏的前面文章中,介绍了使用 OpenVINO 在 Intel Ultra 处理器的 CPU、NPU、核显 GPU 上加速 YOLO12 模型的推理:

基于 Inter Ultra 处理器中的 NPU、核显GPU 加速 YOLO12 模型推理运算

但这篇文章解决的是推理 问题。如果要基于自己的数据集重新训练或微调的话,就不是NPU的范畴了, 而 CPU 计算速度又比较缓慢,是否可以通过 Intel 的 GPU 做加速训练呢?所以本篇文章将 YOLO 的推理加速引到训练加速的解决方案上。而在 Ultralytics 框架中又默认采用 PyTorch 做为后端计算引擎,因此本文再聚焦到 PyTorch 生态上的训练加速优化。

PyTorch 默认采用 NVIDIA 的 GPU 作为加速模块,但 PyTorch 从 2.5 版本起逐步将 Intel GPU 后端合入了主干,形成了 torch-xpu 版本,可以驱动 Intel 的 GPU 加速训练与推理,为加速设备的选择提供了一种备选方案。使用时device 名称为 xpu。它支持 Intel 的核显与独立显卡,底层走 oneAPI Level Zero 和 SYCL,卷积、矩阵乘等算子会调度到 Intel GPU 的 XMX 矩阵引擎上。

注意: 在 PyTorch 早期版本中,使用 Intel GPU 需要额外安装 IPEX,但目前官方 IPEX 已经停止开发,它所提供的 XMX 加速、算子融合等能力已经合并进了上游 PyTorch中,由 PyTorch 官方原生支持,在使用时需要鉴别。

下面基于 Intel 的核显 GPU 实验训练加速过程,模型本次采用较新的 YOLO26n 作为实验对象,主要介绍:

  • torch-xpu 的环境准备与安装。
  • 数据集准备标注及YOLO26n 模型训练。
  • 训练结果模型测试。

本次实验使用的硬件配置:

设备类型 型号
CPU Intel® Core™ Ultra X7 358H
核显 GPU Intel® Arc™ B390 GPU (iGPU)

本次采用 Python 3.14 版本,相关依赖包的版本如下:

shell 复制代码
Python==3.14.7
torch==2.14.1+xpu
torchvision==0.29.1+xpu
ultralytics==8.4.174

二、环境准备与安装

2.1 Python 版本选择

torch-xpu 和 Python 版本有着较强的关联,仅支持 Python3.9 以上版本:

Python 版本 可用的最高版本
3.8及以下 不支持
3.9 2.8.0+xpu
3.10 2.14.1+xpu
3.11 / 3.12 2.14.1+xpu
3.13 2.14.1+xpu
3.14 2.14.1+xpu

2.2 安装

建议使用 uv 安装,可以更好的管理依赖之间的版本:

shell 复制代码
uv pip install torch torchvision torchaudio --index-url https://download.pytorch.org/whl/xpu

注意: 需要使用 --index-url https://download.pytorch.org/whl/xpu 指定安装的是 xpu 为后端的 pytorch, 不能直接使用 pip install torch ,这样装到的是 CUDA/CPU 版本。

安装完成后用 uv pip show torch 确认版本号带 +xpu 后缀。

2.3 环境验证

python 复制代码
import torch

print("PyTorch 版本:", torch.__version__)
print("XPU 版本:", torch.version.xpu)
print("torch.xpu 是否可用:", torch.xpu.is_available())

if torch.xpu.is_available():
    print("XPU 设备数:", torch.xpu.device_count())
    for i in range(torch.xpu.device_count()):
        props = torch.xpu.get_device_properties(i)
        print(f"  xpu:{i}: name={props.name}, "
              f"driver={props.driver_version}, "
              f"EU={props.gpu_eu_count}, "
              f"mem={props.total_memory / 1024**3:.1f}GiB")

运行输出:

可以看到 torch.xpu.is_available() 返回 True,识别出了 Arc B390 GPU,96 个 EU。显存为 16.5GiB 的共享系统内存。

如果你的电脑确实有 Intel GPU 但是这里没有识别出来,那可能是驱动有问题,需要去 Intel 官网下载安装最新驱动。

2.4 安装 ultralytics 依赖

使用 uv 安装 ultralytics ,可以自动发现上面安装的 torch 并使用

shell 复制代码
uv pip install ultralytics nncf openvino

2.5 使用 GPU 做 YOLO26n 推理测试

测试图片:

测试过程,分别使用 xpu 和 cpu 做推理运算,观察推理耗时差距。

python 复制代码
from ultralytics import YOLO
import cv2
import time

# 要对比的设备
DEVICES = ['xpu', 'cpu']

# 加载模型,不存在会自动下载
model = YOLO('yolo26n.pt')

# 图片只读一次,避免把读盘时间算进耗时
img = cv2.imread('img.png')

single = {}
print('===== 单图推理 =====')
for device in DEVICES:
    model.predict(img, device=device, verbose=False)  # 预热一下
    total = 0
    infer = 0
    for i in range(10):
        t = time.time()
        results = model.predict(img, device=device, verbose=False)
        total += time.time() - t
        infer += results[0].speed['inference']  # 只取模型推理那一段
    single[device] = (total / 10, infer / 10)
    print(f"{device:>4}  总耗时 {total / 10 * 1000:6.2f} ms   推理耗时 {infer / 10:6.2f} ms")

batch = {}
print('\n===== 8 图批量推理 =====')
imgs = [img] * 8
for device in DEVICES:
    model.predict(imgs, device=device, verbose=False)  # 预热一下
    t = time.time()
    infer = 0
    for i in range(5):
        results = model.predict(imgs, device=device, verbose=False)
        infer += results[0].speed['inference']  # 每张图的推理耗时
    dt = (time.time() - t) / 5
    batch[device] = (dt, infer / 5)
    print(f"{device:>4}  总 {dt * 1000:6.2f} ms/批 = {dt / 8 * 1000:5.2f} ms/图   "
          f"推理 {infer / 5:5.2f} ms/图   {8 / dt:6.1f} 图/秒")

print('\n===== 对比(倍数越大,xpu 优势越明显)=====')
print(f"单图总耗时    cpu / xpu = {single['cpu'][0] / single['xpu'][0]:5.2f} 倍")
print(f"单图推理耗时  cpu / xpu = {single['cpu'][1] / single['xpu'][1]:5.2f} 倍")
print(f"批量总耗时    cpu / xpu = {batch['cpu'][0] / batch['xpu'][0]:5.2f} 倍")
print(f"批量推理耗时  cpu / xpu = {batch['cpu'][1] / batch['xpu'][1]:5.2f} 倍")

运行结果:

从数据上看,核显的优势主要体现在批量推理上:单图约 2.3 倍,一次送入 8 张后单张耗时压到 2.77 ms,差距拉到 4.5 倍,说明单张图片的运算量填不满核显的执行单元。而按整条链路的总耗时算,提升只有 1.2 ~ 1.5 倍,原因是 NMS 后处理在 xpu 上反而比 CPU 慢(约 2416 ms 对 693 ms),把前向省下的时间还了回去。所以评价算力要看推理耗时,评价实际响应速度则要看总耗时,并注意后处理在链路中的占比。

三、YOLO26n 模型训练

数据集使用本专栏前面实验 YOLO-V10 时标注的人脸数据集, 这里你可以收集一些自定义的图片,然后根据下面文章中介绍的方式进行标注:

基于 YOLO V10 Fine-Tuning 训练自定义的目标检测模型

创建 train-config.yaml 文件,写入下面内容:

yaml 复制代码
path: D:/pyProject/xpu-demo/train_data # 数据集的根目录, 建议使用绝对路径
train: images/train # 训练集图像目录
val: images/val # 验证集图像目录
test: # test images (optional)

# 分类
names:
  0: face

微调训练,设备指定 xpu :

python 复制代码
from pathlib import Path

from ultralytics import YOLO

# 加载模型, 不存在会自动下载
model = YOLO("yolo26n.pt")

# 训练
model.train(
    data="train-config.yaml",             # 数据集 yaml(绝对路径)
    epochs=200,                  # 训练的周期
    imgsz=640,                  # 图像的大小
    device="xpu",               # 设备指定 xpu,如果是 cpu 则是 device='cpu'
    workers=0,                  # Windows 下保持 0,避免多进程 spawn 的问题
    batch=16                    # 批次大小
)

运行后可以看到打印的设备信息:

训练过程中可以也看到 GPU 显存的占用:

GPU 的使用情况:

训练结束后可以在 runs 目录下面看到训练的结果:

weights 下面的就是训练后保存的模型,这里可以先看下训练时 loss 的变化图:

四、模型测试

在 runs\detect\train\weights 下可以看到 best.pt 和 last.pt 两个模型,表示最佳和最终模型,下面使用 best.pt 模型进行测试

python 复制代码
import os

import torch
from matplotlib import pyplot as plt
from ultralytics import YOLO

plt.rcParams['font.sans-serif'] = ['SimHei']

# 测试图片目录地址
base_path = "datasets/images/val"
# 加载模型:直接指定训练输出的 best.pt
weights = "runs/detect/train/weights/best.pt"

# 使用设备
device = "xpu" if torch.xpu.is_available() else "cpu"

# 加载模型
model = YOLO(weights)
for img_name in os.listdir(base_path):
    img_path = os.path.join(base_path, img_name)
    image = plt.imread(img_path)
    # 预测
    results = model.predict(image, device=device)
    boxes = results[0].boxes.xyxy.cpu().numpy()
    confs = results[0].boxes.conf.cpu().numpy()
    cls = results[0].boxes.cls.cpu().numpy()
    ax = plt.gca()
    for index, boxe in enumerate(boxes):
        x1, y1, x2, y2 = boxe[0], boxe[1], boxe[2], boxe[3]
        cl = int(cls[index].item())
        score = confs[index].item()
        if cl == 0:
            ax.add_patch(plt.Rectangle((x1, y1), (x2 - x1), (y2 - y1), linewidth=2, fill=False, color='green'))
            plt.text(x=x1, y=y1-10, s="{:.2f}".format(score), fontsize=15, color='white',
                     bbox=dict(facecolor='black', alpha=0.5))
        else:
            ax.add_patch(plt.Rectangle((x1, y1), (x2 - x1), (y2 - y1), linewidth=2, fill=False, color='red'))
            plt.text(x=x1, y=y1 - 10, s="{:.2f}".format(score), fontsize=15, color='white',
                     bbox=dict(facecolor='black', alpha=0.5))
    plt.imshow(image)
    plt.show()

测试结果:

相关推荐
电科_银尘1 天前
【深度学习项目实战·33】自定义数据集:把自己的图片接入PyTorch
人工智能·pytorch·深度学习
aifannihao2 天前
AI 学习第 14 课:CNN 训 6 轮卡在 0.5352,数据没打乱
pytorch·python·深度学习·cnn·学习路线
jay神3 天前
基于 YOLOv8 的手势识别系统(Web 版)
前端·人工智能·python·深度学习·yolo·计算机视觉·计算机毕业设计
云上工程笔记3 天前
RDMA / IB 高速互联 GPU 云对比:多机训练网络性能与价格
网络·gpu算力·gpu
鱼听禅3 天前
Ubuntu安装YOLOv8进行菌落识别训练
linux·python·yolo·ubuntu
2601_967987373 天前
Scikit-Learn 1.8引入Array,支持 PyTorch 与 CuPy 张量的原生 GPU 加速
pytorch·scikit-learn·交叉验证·gpu加速·cupy
XLYcmy3 天前
ASR识别任务两篇论文阅读分析与系统方案技术报告 上
论文阅读·ai·gpu·asr·论文分享·speechbrain·wespeaker
盼小辉丶3 天前
PyTorch强化学习实战(35)——多智能体强化学习
人工智能·pytorch·深度学习·强化学习
深蓝AI4 天前
英伟达换帅当天,我先跑了一遍 GPU 环境体检:版本矩阵比人事更值得盯
人工智能·gpu
jay神5 天前
基于深度学习的交通流量预测系统(Web 版)
前端·人工智能·深度学习·yolo·计算机毕业设计