【权重】离线环境怎么用预训练权重

在真实的生产环境中,模型加载往往不会像教程里那么"顺滑"。

  • 服务器无法访问外网(安全隔离环境)
  • 内网集群(HPC / 企业训练平台)
  • Docker 镜像需要预置模型
  • 推理服务必须离线启动

你会发现,torchvision 的"自动下载预训练权重"机制完全失效。这时候,就需要我们手动接管整个流程。

一、Step1: 在有网的机器上下好权重

python 复制代码
from torchvision import models
_ = models.vgg16(weights='IMAGENET1K_V1')   # 触发一次自动下载

​ 检查本地 cache 是否存在权重,如果没有 → 自动从官方 URL 下载,然后缓存到 ~/.cache/torch/hub/checkpoints/

​ 但在离线环境,因为无法访问下载地址,自动流程直接失败,模型初始化被阻断。

二、Step2:定位权重文件

​ 下载完成后,权重会被存到 torch cache 中。

python 复制代码
import torch, os
from torchvision import models

weights = models.VGG16_Weights.IMAGENET1K_V1
filename = weights.url.split('/')[-1]        # vgg16-397923af.pth
src = os.path.join(torch.hub.get_dir(), 'checkpoints', filename)

三、Step3复制到目标机器

​ scp / 放进镜像 / 拷到内网,然后在无网机器上加载:

python 复制代码
state_dict = torch.load('/path/to/vgg16-397923af.pth', map_location='cpu')
model = models.vgg16(weights=None)          # 注意是 None,别触发下载
model.load_state_dict(state_dict)

关键点weights=None 告诉 torchvision "只给我结构、别下载"。然后你手动 load_state_dict

​ 这一套流程在 HuggingFace 的 transformers 里完全同构,学会一次到处能用。

相关推荐
VBsemi-专注于MOSFET研发定制1 小时前
AI水稻插秧机器人功率器件选型方案——高效、可靠与精准驱动系统设计指南
人工智能·机器人
mmWave&THz2 小时前
技术解析:Bolicom-mmWave高速毫米波通信设备赋能港口机械智能化升级
网络·人工智能·系统架构·信息与通信·智能硬件
观北海2 小时前
视觉-语言-动作模型(VLA)深度解析:当 AI 学会“看、读、动”
人工智能·计算机视觉
AiTop1002 小时前
跨数据中心的创新:Moonshot AI与清华大学提出PrfaaS架构
人工智能·ai·架构
深藏功yu名2 小时前
大模型推理加速实战技术
人工智能·python·ai·pycharm
GISer_Jing2 小时前
AI时代前端开发者成长计划
前端·人工智能
Swilderrr2 小时前
学术研读报告:Mem0 面向生产级 AI 智能体的可扩展长期记忆架构
人工智能·学习
云烟成雨TD2 小时前
Spring AI Alibaba 1.x 系列【30】Nacos Skill Registry 的底层设计与实现
java·人工智能·spring
Zzj_tju2 小时前
大语言模型部署实战:从 Ollama、vLLM 到 SGLang,本地服务到底怎么搭?
人工智能·语言模型·自然语言处理·vllm