国内高速下载huggingface上的模型

目录

前言

modelscope

huggingface安装

Windows设置环境变量

Linux设置环境变量

设置国内镜像

Windows(cmd.exe)

当前窗口有效

永久生效

Linux

当前窗口有效

永久生效

下载模型


前言

国内优先使用modelscope,hugging face镜像站下载还是不怎么稳定。

modelscope

modelscope:ModelScope - 模型列表页

找下有没有需要的模型,有的话拷贝下 <namespace>/<model-name>,如图:

使用git clone:

bash 复制代码
git lfs clone https://www.modelscope.cn/<namespace>/<model-name>.git 

比如我要下的是AI-ModelScope/stable-diffusion-xl-base-1.0,那么链接就是:

git lfs clone https://www.modelscope.cn/AI-ModelScope/stable-diffusion-xl-base-1.0.git


huggingface安装

Python版本至少是3.8

安装hugging face官方提供的下载工具

bash 复制代码
pip install -U huggingface_hub hf-transfer

Windows设置环境变量

在当前窗口设置临时环境变量(cmd.exe)

bash 复制代码
set HF_HUB_ENABLE_HF_TRANSFER 1

你也可以设置永久的环境变量(可能需要管理员权限)

bash 复制代码
setx HF_HUB_ENABLE_HF_TRANSFER 1

Linux设置环境变量

只是当前窗口下有效

bash 复制代码
export HF_HUB_ENABLE_HF_TRANSFER=1

设置国内镜像

Windows(cmd.exe)

当前窗口有效

bash 复制代码
set HF_ENDPOINT https://hf-mirror.com

永久生效

bash 复制代码
setx HF_ENDPOINT https://hf-mirror.com

Linux

当前窗口有效

bash 复制代码
export HF_ENDPOINT=https://hf-mirror.com

永久生效

bash 复制代码
# 配置环境变量
vim ~/.bashrc

# 在打开文件中的最后一行添加
export HF_ENDPOINT="https://hf-mirror.com"

下载模型

bash 复制代码
huggingface-cli download --token [访问令牌] --resume-download --local-dir-use-symlinks False [模型名] --local-dir [保存位置]

如果你使用的是conda,注意看下有没有切换对应的环境!!!

有些模型不需要token也能直接下载!!!把token选项去掉即可

访问令牌获取链接:https://huggingface.co/settings/tokens

比如我要下载ChatGLM的模型,操作如下:

命令如:

huggingface-cli download --resume-download --local-dir-use-symlinks False THUDM/chatglm3-6b --local-dir chatglm3-6b


参考文章


👍点赞,你的认可是我创作的动力 !

🌟收藏,你的青睐是我努力的方向!

✏️评论,你的意见是我进步的财富!

相关推荐
风为你而吹29 分钟前
【玩泰山派】4、制作ubuntu镜像-(6)使用鲁班猫的sdk去制作镜像
linux·运维·ubuntu
running thunderbolt35 分钟前
项目---网络通信组件JsonRpc
linux·服务器·c语言·开发语言·网络·c++·性能优化
影子24011 小时前
Windows Server2016 服务器安装JDK,一直卡在“应用程序正在为首次使用作准备,请稍候” ,导致jdk安装失败解决方案
运维·服务器·windows·jdk
养生技术人1 小时前
Oracle OCP认证考试题目详解082系列第48题
运维·数据库·sql·oracle·database·开闭原则·ocp
_OP_CHEN1 小时前
Linux 系统编程:(一)从历史演进到 XShell 远程登录实操
linux·运维·服务器·centos·unix·xshell
夜月yeyue2 小时前
STM32 Flash 访问加速器详解(ART Accelerator)
linux·单片机·嵌入式硬件·uboot·bootloard
点亮一颗LED(从入门到放弃)2 小时前
Linux应用(6)——网络通信/TCP/IP
linux·网络·tcp/ip
egoist20232 小时前
[linux仓库]信号快速认识[进程信号·壹]
linux·c语言·信号处理·信号·前后台进程
为java加瓦2 小时前
Rust 的类型自动解引用:隐藏在人体工学设计中的魔法
java·服务器·rust
罗技1233 小时前
Docker 启动 Easysearch 时自定义初始密码的几种方式
运维·docker·容器