从Huggingface下载模型的方法小结

概览

从 Hugging Face 下载模型主要有五种常用方式:使用 Transformers 的 from_pretrained 接口、Hugging Face 提供的命令行工具(CLI)、huggingface_hub 库中的 hf_hub_download 函数、snapshot_download 方法、以及通过 Git LFS 克隆模型仓库。每种方法各有优势,可根据网络环境、自动化需求和私有仓库权限灵活选择。


方法一:Transformers Python API

通过 Transformers 库的高层接口,可以一行代码从模型仓库下载并加载模型:

python 复制代码
from transformers import AutoModel, AutoTokenizer  
model = AutoModel.from_pretrained("bert-base-uncased")  
tokenizer = AutoTokenizer.from_pretrained("bert-base-uncased")

首次运行时,所需权重文件会被下载并缓存到本地,再次加载时即从缓存读取,无需重复下载。

对于需要离线加载的场景,可设置 local_files_only=True,让 from_pretrained 仅从本地缓存加载:

python 复制代码
model = AutoModel.from_pretrained("bert-base-uncased", local_files_only=True)

这样可以在无网络环境下使用已下载模型。


方法二:命令行工具(CLI)

Hugging Face 官方提供 huggingface-cli,可直接在终端下载模型文件:

python 复制代码
pip install huggingface_hub 
huggingface-cli download HuggingFaceH4/zephyr-7b-beta

该命令会将指定模型仓库的所有文件下载到本地缓存目录,适合快速批量下载或脚本化操作。

登录并授权后,CLI 也能访问私有仓库:

python 复制代码
huggingface-cli login huggingface-cli download <private-repo-id>

授权令牌会自动保存在本地,后续下载无需重复登录。


方法三:hf_hub_download 函数

使用 huggingface_hub 库时,可精确下载指定文件而非整个仓库:

python 复制代码
from huggingface_hub import hf_hub_download 
local_path = hf_hub_download(repo_id="lysandre/arxiv-nlp", filename="config.json") 
print(local_path) # /root/.cache/huggingface/hub/models--lysandre--arxiv-nlp/.../config.json

函数会将文件缓存在本地,并返回缓存路径,有助于在自定义脚本中灵活获取模型组件。


方法四:snapshot_download 整仓下载

当需要离线或墙内环境完整获取模型时,可使用 snapshot_download

python 复制代码
from huggingface_hub import snapshot_download 
snapshot_download(repo_id="meta-llama/Llama-2-7b-hf", repo_type="model")

该方法会下载整个仓库快照,包括所有版本的文件,并存储于本地缓存目录,支持指定分支或提交哈希。


方法五:Git LFS 克隆

模型仓库本质上是 Git 仓库,可通过 Git LFS 完整克隆:

python 复制代码
git lfs install git clone https://huggingface.co/bigscience/bloom

若对私有模型有写权限,可使用 SSH:

python 复制代码
git clone git@hf.co:<MODEL_ID>

克隆后,仓库中包含 config.json、权重文件(.bin.safetensors)等,可直接在本地加载。


本地缓存与管理

所有下载的模型文件默认缓存在 ~/.cache/huggingface/ 目录下,包含版本管理和权限控制信息,不建议手动修改缓存文件以免损坏。

若需清理缓存,可删除对应子目录或使用官方工具:

python 复制代码
huggingface-cli cache delete

管理缓存有助于节省磁盘空间并重置下载状态。


小结

  • 快速体验 :使用 from_pretrainedpipeline 即可一行加载模型。

  • 批量/自动化 :推荐 huggingface-cli downloadsnapshot_download

  • 精细控制 :采用 hf_hub_download 按需获取文件。

  • 克隆镜像:通过 Git LFS 完整克隆,适合二次开发和私有化部署。

根据自身需求和网络环境灵活选择,均可在 Hugging Face Hub 上安全、高效地获取所需模型。

相关推荐
Liudef061 小时前
FLUX.1-Kontext 高效训练 LoRA:释放大语言模型定制化潜能的完整指南
人工智能·语言模型·自然语言处理·ai作画·aigc
静心问道1 小时前
大型语言模型中的自动化思维链提示
人工智能·语言模型·大模型
难受啊马飞2.04 小时前
如何判断 AI 将优先自动化哪些任务?
运维·人工智能·ai·语言模型·程序员·大模型·大模型学习
静心问道6 小时前
GoT:超越思维链:语言模型中的有效思维图推理
人工智能·计算机视觉·语言模型
静心问道8 小时前
大语言模型能够理解并可以通过情绪刺激进行增强
人工智能·语言模型·大模型
onceco19 小时前
领域LLM九讲——第5讲 为什么选择OpenManus而不是QwenAgent(附LLM免费api邀请码)
人工智能·python·深度学习·语言模型·自然语言处理·自动化
Sweet锦1 天前
零基础保姆级本地化部署文心大模型4.5开源系列
人工智能·语言模型·文心一言
强哥之神1 天前
英伟达发布 Llama Nemotron Nano 4B:专为边缘 AI 和科研任务优化的高效开源推理模型
人工智能·深度学习·语言模型·架构·llm·transformer·边缘计算
陈敬雷-充电了么-CEO兼CTO1 天前
大模型技术原理 - 基于Transformer的预训练语言模型
人工智能·深度学习·语言模型·自然语言处理·chatgpt·aigc·transformer
asyxchenchong8881 天前
ChatGPT、DeepSeek等大语言模型助力高效办公、论文与项目撰写、数据分析、机器学习与深度学习建模
机器学习·语言模型·chatgpt