Pytorch如何指定device(cuda or cpu)例子解析

代码示例:

在PyTorch中,指定设备(CPU或CUDA)是一个非常重要的步骤,特别是当你在进行深度学习训练时。以下是一些指定设备的详细例子:

  1. 检查CUDA是否可用 :

    首先,你需要检查你的机器是否支持CUDA,并且PyTorch是否能够使用CUDA。

    python 复制代码
    import torch
    if torch.cuda.is_available():
        print("CUDA is available. Using GPU.")
    else:
        print("CUDA is not available. Using CPU.")
  2. 设置默认设备 :

    你可以设置PyTorch的默认设备,这样所有的张量和模型都会默认使用这个设备。

    python 复制代码
    device = torch.device("cuda" if torch.cuda.is_available() else "cpu")
  3. 创建张量并指定设备 :

    当你创建张量时,可以指定它们应该在哪个设备上。

    python 复制代码
    # 创建一个在CPU上的张量
    x_cpu = torch.tensor([1., 2., 3.], device='cpu')
    
    # 创建一个在GPU上的张量
    x_gpu = torch.tensor([1., 2., 3.], device=device)
  4. 将张量移动到指定设备 :

    如果张量已经创建,你可以使用.to().cuda()方法将其移动到指定的设备。

    python 复制代码
    # 将张量移动到GPU
    x_gpu = x_cpu.to(device)
    
    # 如果你知道你的设备是GPU,也可以使用.cuda()
    if torch.cuda.is_available():
        x_gpu = x_cpu.cuda()
  5. 指定模型的设备 :

    当你定义模型时,可以将其放置在指定的设备上。

    python 复制代码
    model = MyModel().to(device)
  6. 在训练循环中使用设备 :

    在训练循环中,你需要确保模型的输入数据和目标也在正确的设备上。

    python 复制代码
    for data, target in dataloader:
        data, target = data.to(device), target.to(device)
    
        output = model(data)
        loss = criterion(output, target)
        loss.backward()
        optimizer.step()
        optimizer.zero_grad()
  7. 保存和加载模型时指定设备 :

    当你保存或加载模型时,确保模型在正确的设备上。

    python 复制代码
    # 保存模型
    torch.save(model.state_dict(), "model.pth")
    
    # 加载模型
    model = MyModel()
    model.load_state_dict(torch.load("model.pth", map_location=device))
    model.to(device)

请注意,当你在GPU上训练时,所有的输入数据、目标、模型参数等都应该在GPU上。这样可以确保计算是在GPU上进行的,从而提高训练速度。如果你的机器有多个GPU,你还可以指定使用特定的GPU,例如:

python 复制代码
device = torch.device("cuda:0")  # 使用第一个GPU

以上就是在PyTorch中指定设备的一些基本方法和例子。

喜欢本文,请点赞、收藏和关注!

相关推荐
志栋智能21 小时前
超自动化巡检:量化运维成效的标尺
运维·网络·人工智能·自动化
AI科技星21 小时前
紫金山天文台与6G 超导太赫兹实验对比【乖乖数学】
人工智能·线性代数·机器学习·量子计算·agi
摩尔线程21 小时前
摩尔线程携手紫光计算机发布《语音识别全栈国产化技术实践白皮书》
人工智能·语音识别·摩尔线程
字节跳动开源21 小时前
局中局!给 Agent 装上 OpenViking,它们竟然学会了“记仇”和“伪装”?
人工智能·开源·llm
Exploring21 小时前
通过 Vibe Coding,我开发的第一款鸿蒙 App 上架了,欢迎大家下载体验
人工智能
杀生丸学AI21 小时前
【VALSE 2026】AI领域年度重要进展
人工智能
2401_8246976621 小时前
如何实现SQL存储过程状态监控_编写实时运行监控仪表盘
jvm·数据库·python
iAm_Ike21 小时前
c++怎么在写入文件流时通过peek预读功能实现复杂的逻辑判断【实战】
jvm·数据库·python
沪漂阿龙21 小时前
面试题:文本表示方法详解——One-hot、Word2Vec、上下文表示、BERT词向量全解析(NLP基础高频考点)
人工智能·神经网络·自然语言处理·bert·word2vec
dFObBIMmai21 小时前
mysql如何确保主从数据完全同步_开启半同步复制机制
jvm·数据库·python