pytorch如何将bin格式模型导出pt格式模型？

suibianshen20122023-09-13 6:07

PyTorch提供了两种导出模型的方法：

将模型保存为.pt文件

用以下代码读取bin模型文件

python 复制代码

# 获取模型
model = WhisperForConditionalGeneration.from_pretrained(args.model_path,
                                                        device_map="auto",
                                                        local_files_only=args.local_files_only).half()

可以使用以下函数将模型保存为.pt文件：

python 复制代码

torch.save(model.state_dict(), path_to_file)

其中，model是要保存的模型，state_dict()是将模型中所有参数的值保存为一个字典，path_to_file是保存路径和文件名。

将模型保存为ONNX格式

可以使用以下函数将PyTorch模型保存为ONNX格式：

torch.onnx.export(model, input, path_to_file)

其中，model是要保存的模型，input是一个PyTorch张量，用于指定输入张量的形状和数据类型，path_to_file是保存路径和文件名。该函数将自动将模型转换为ONNX格式并保存到本地文件中。

需要说明的是，保存为.ONNX格式的模型可以被其他深度学习框架加载和使用。