深入理解 PyTorch .pth 文件和 Python pickle 模块:功能、应用及实际示例

深入理解 PyTorch .pth 文件和 Python pickle 模块:功能、应用及实际示例

在深入理解Python的pickle模块和PyTorch的.pth文件,以及pickle.pth文件中的应用前,我们首先需要掌握序列化和反序列化的基本概念。

序列化和反序列化

序列化 是指将程序中的对象转换为一个字节序列的过程,这样就可以将其存储到磁盘上或通过网络传输到其他位置。反序列化是序列化的逆过程,即将字节序列恢复为原始对象。这两个过程是数据持久化和远程计算通信的基础。

Python的pickle模块

pickle是Python的标准库之一,提供了一个简单的方法用于序列化和反序列化Python对象结构。任何Python对象都可以通过pickle进行序列化,只要它们是pickle支持的类型。

核心功能

  • pickle.dump(obj, file) :将对象obj序列化并写入到文件对象file中。
  • pickle.load(file) :从文件对象file中读取序列化的对象并反序列化。
  • pickle.dumps(obj) :将对象obj序列化为一个字节对象,不写入文件。
  • pickle.loads(bytes_object) :将字节对象bytes_object反序列化为一个Python对象。

pickle的序列化过程不仅包括对象当前的状态(例如,数字,字符串,或复杂对象的集合),也包括对象的类型信息和结构。

PyTorch的.pth文件

在PyTorch中,.pth文件扩展通常用于保存模型的权重或整个模型。这些文件通过使用torch.save()函数创建,它内部使用pickle来序列化对象。.pth文件通常包含模型的状态字典(state_dict),这是一个从每个层的参数名称映射到其张量值的字典。

核心用途

  • 模型持久化:保存训练后的模型状态,以便将来可以重新加载和使用模型,不需要重新训练。
  • 模型迁移:将训练好的模型参数迁移到新的模型结构或平台上。

pickle.pth文件中的应用

当使用torch.save()来保存一个PyTorch模型或张量时,pickle用于将对象和它的层次结构转换为一个字节流,然后这个字节流被写入到一个.pth文件中。在加载模型时,torch.load()使用pickle来反序列化这个字节流,重建模型或张量。

示例

python 复制代码
import torch
import torchvision.models as models

# 实例化一个预训练的ResNet模型
model = models.resnet18(pretrained=True)

# 保存模型状态字典
torch.save(model.state_dict(), 'model_weights.pth')

# 加载模型状态字典
loaded_state_dict = torch.load('model_weights.pth')
new_model = models.resnet18(pretrained=False)
new_model.load_state_dict(loaded_state_dict)

# 打印以验证加载
print(new_model)

在这个示例中,torch.save()内部使用pickle来序列化model.state_dict(),并将其保存为model_weights.pth。然后,我们使用torch.load()来加载这个.pth文件,其中pickle负责反序列化文件内容,并恢复为Python对象(在这种情况下是模型的状态字典)。最后,状态字典被用于初始化一个新的模型实例。

通过这种方式,pickle在PyTorch的模型保存和加载过程中扮演了核心角色,使得模型的状态可以在不同的计算环境中被迁移和复用。

相关推荐
阿部多瑞 ABU4 分钟前
正反馈的死亡螺旋:数字资本时代泛二次元文化-情感-金融复合体的系统性分析
大数据·人工智能·金融
起司喵喵10 分钟前
推荐一款基于 Python 和 Rust 开发的跨平台 GUI 自动化库!
python·rust·自动化
过期的秋刀鱼!13 分钟前
学习曲线-过拟合和欠拟合要做什么以及原因
人工智能·python·深度学习·算法·机器学习·模型评估
haerapi19 分钟前
别把页面塞进三个枚举:用“数据、过程、消息”重建 UI 状态
人工智能
非优秀程序员19 分钟前
Netdata 接入 RTX5090显卡(集群),实现自动化监测及预警邮件发送
人工智能
罗小罗同学23 分钟前
Nat. Biomed. Eng最新发表的医学AI基础模型CLEAR,可以将诊断决策与临床概念一一匹配,不再是传统黑箱模型
人工智能·医学图像处理·医工交叉·医学ai
Leslie16523 分钟前
多人共享目录如何不失控:用 setgid、ACL、umask 与粘滞位设计 Linux 权限
人工智能
mit6.82428 分钟前
“Copilot“ 超级应用“年内问世(`・ω・´)
人工智能
zhbcddxr32 分钟前
GEO服务商度量监测能力测评:可见度追踪与报表排行
大数据·人工智能·microsoft
m沐沐33 分钟前
【自然语言处理】词向量转换与中文文本情感分类——从CountVectorizer到朴素贝叶斯
人工智能·算法·机器学习·自然语言处理·分类·中文分词·词向量转换