pytorch持久化

在pytorch中以下对象可以持久化到硬盘,并能通过相应的方法加载到内存:Tensor、Variable、nn.Module、Optimizer

本质上上述信息最终都是保存成Tensor,Tensor的保存和加载是使用torch.savetorch.load完成的。在save、load时可以指定使用的pickle模块,在load时还可将GPU tensor映射到CPU或其它GPU上。

torch.savetorch.load

python 复制代码
import torch

# 1.变量的保存与加载
a = torch.Tensor(3,4)
print(a.get_device())  # -1,代表CPU
if torch.cuda.is_available():
    a = a.cuda()   # 把a转换为GPU0上的tensor
    torch.save(a, 'a.pth')

    # 加载为b,存储于GPU0上,因为保存时tensor就在GPU0上
    b = torch.load('a.pth')
    print(b.get_device())   # 0

    # 加载为d,存储于GPU0上
    c = torch.load('a.pth', map_location={'cuda:0':'cuda:0'})
    print(c.get_device())   # 0


    # 加载为c,存储于CPU上
    d = torch.load('a.pth', map_location=lambda storage, loc: storage)
    print(d.get_device())   # -1,代表CPU

    # 加载为d,存储于CPU上
    e = torch.load('a.pth', map_location={'cuda:0':'cpu'})
    print(e.get_device())   # -1,代表CPU


# 2.模型的保存与加载
from torchvision.models import resnet18
model = resnet18()
torch.save(model.state_dict(), 'resnet18.pth')
model.load_state_dict(torch.load('resnet18.pth'))

# 3.优化器的保存与加载
optimizer = torch.optim.Adam(model.parameters(), lr=0.01)
torch.save(optimizer.state_dict(), 'optimizer.pth')
optimizer.load_state_dict(torch.load('optimizer.pth'))

# 4.保存模型和优化器的所有参数
all_data = dict(optimizer=optimizer.state_dict(), model=model.state_dict(), info=u'模型和优化器的所有参数')
torch.save(all_data, 'all.pth')
all_data = torch.load('all.pth')
print(all_data.keys())
相关推荐
AIGC大时代12 分钟前
10个DeepSeek、ChatGPT提示词更快更好的学术文献阅读!
人工智能·chatgpt·文献阅读·智能写作·deepseek·aiwritepaper
_一条咸鱼_26 分钟前
深度解析 AI 大模型 LoRA 微调原理
人工智能·深度学习·机器学习
聪明的一休哥哥38 分钟前
DeepSeek+Mermaid赋能研发提效
人工智能
BuluAI算力云40 分钟前
开发者必备!21.1K Star开源信息聚合平台Glance深度解析
人工智能
By北阳1 小时前
2025年AI开发学习路线
人工智能·学习·ai·aigc
不剪发的Tony老师1 小时前
ChatDBA:一个基于AI的智能数据库助手
数据库·人工智能
文慧的科技江湖1 小时前
AI平台如何实现推理?数算岛是一个开源的AI平台(主要用于管理和调度分布式AI训练和推理任务。)
人工智能·架构·开源·训练·推理
姚瑞南1 小时前
【Prompt实战】邮件分类专家
人工智能·chatgpt·prompt·aigc
欲掩1 小时前
神经网络与深度学习:案例与实践——第三章(2)
人工智能·深度学习·神经网络
Lx3521 小时前
📝 智能体市场探秘:如何挑选你的AI同事
人工智能