如何快速下载Huggingface上的超大模型,不用梯子,以Deepseek-R1为例子

就在昨天DeepSeek-R1模型问世即爆火,37B的大模型,你想部署一下试试吗?我就想试试,毕竟本人有8卡A100可以玩。

首先我们需要从Huggingface下载模型权重,我在国内,文件太大了,下载不了。有方法,有教程,请仔细看。

模型地址:https://huggingface.co/deepseek-ai/DeepSeek-R1/tree/main

下载工具:https://gist.github.com/padeoe/697678ab8e528b85a2a7bddafea1fa4f

1. 安装下载工具。

bash 复制代码
# 设置镜像地址
export HF_ENDPOINT="https://hf-mirror.com"
# 创建模型下载存放路径
mkdir model_download
# 进入该目录
cd model_download
# 下载所需的脚本
wget 

https://gist.githubusercontent.com/padeoe/697678ab8e528b85a2a7bddafea1fa4f/raw/3ed815fdcef9a30bd985772ab95ca57801c80bfa/hfd.sh
# 修改文件的执行权限
chmod a+x hfd.sh
# 注册执行命令
alias hfd="$PWD/hfd.sh"

2. 下载模型

bash 复制代码
hfd deepseek-ai/DeepSeek-R1 --tool wget

如果不指定参数 --tool wget,会报如下错误, 建议加上 --tool wget:

bash 复制代码
aria2c is not installed. Please install it first.

如果你想用aria2进行下载,难么你需要安装aria2。

bash 复制代码
sudo apt update

sudo apt install aria2

我分别都体验了,感觉aria2更好用。

相关推荐
11年老程序猿在线搬砖2 分钟前
如何搭建自己的量化交易平台
大数据·人工智能·python·自动交易·量化交易系统
Elastic 中国社区官方博客9 分钟前
Elasticsearch 开放推理 API 增加了对 Google 的 Gemini 模型的支持
大数据·人工智能·elasticsearch·搜索引擎·ai·全文检索·googlecloud
周杰伦_Jay20 分钟前
【实战|旅游知识问答RAG系统全链路解析】从配置到落地(附真实日志数据)
大数据·人工智能·分布式·机器学习·架构·旅游·1024程序员节
架构技术专栏32 分钟前
大模型安全:从对齐问题到对抗性攻击的深度分析
人工智能
麻雀无能为力1 小时前
深度学习计算
人工智能·深度学习
周杰伦_Jay2 小时前
【向量检索与RAG全流程解析】HNSW原理、实践及阿里云灵积DashScope嵌入
人工智能·阿里云·数据挖掘·云计算·database·1024程序员节
Jason_zhao_MR2 小时前
RK3576机器人核心:三屏异显+八路摄像头,重塑机器人交互与感知
linux·人工智能·嵌入式硬件·计算机视觉·机器人·嵌入式·交互
mmq在路上2 小时前
YOLO-World: Real-Time Open-Vocabulary Object Detection论文阅读
人工智能·计算机视觉·目标跟踪
萌萌可爱郭德纲2 小时前
基于AI智能算法的装备结构可靠性分析与优化设计技术专题
人工智能·机器学习·支持向量机·发动机·疲劳寿命
jiushun_suanli2 小时前
PyTorch CV模型实战全流程(二)
人工智能·pytorch·python