更改huggingface和pytorch的断点的默认下载位置

更改huggingface和pytorch的断点的默认下载位置

更改huggingface的默认下载位置:

更改了默认下载位置,我们就能把本地下载的默认直接放入规定的位置读入了,也能避免默认下载到系统盘但系统盘容量不足的问题。

Ubuntu 系统中 Huggingface 模型等默认的下载位置如下:

py 复制代码
~\.cache\huggingface\hub

方法1:环境变量

通过bash修改环境变量:

py 复制代码
# 打开配置文件
vi ~/.bashrc
# 添加下述变量
export HF_HOME="目标地址"
# 使配置文件生效
source ~/.bashrc

通过python修改环境变量:

py 复制代码
import os
os.environ['HF_HOME'] = '/blabla/cache/'

windows修改环境变量

py 复制代码
set HF_HOME=E:\huggingface_cache

google colab修改环境变量:

py 复制代码
%env HF_HOME=/blabla/cache/

方法2:修改from_pretrained函数

py 复制代码
tokenizer = AutoTokenizer.from_pretrained("roberta-base", cache_dir="new_cache_dir/")

model = AutoModelForMaskedLM.from_pretrained("roberta-base", cache_dir="new_cache_dir/")

更改pytorch断点的默认保存目录

同样和上面类似,这里只举出python代码的解决办法:

py 复制代码
import os
os.environ['TORCH_HOME']=r"/root/autodl-tmp/torch-model"  #更改pytorch断点的默认保存目录

笔者的代码中加了如下语句成功修改运行:

py 复制代码
import os
os.environ['TORCH_HOME']=r"/root/autodl-tmp/torch-model"  #更改pytorch断点的默认保存目录
os.environ['TRANSFORMERS_CACHE'] = r'/root/autodl-tmp/huggingface'    #更改huggingface 的默认保存目录

参考网址

How to change huggingface transformers default cache directory
Huggingface 默认下载位置更改

相关推荐
陈纬度啊32 分钟前
自动驾驶ROS2应用技术详解
人工智能·自动驾驶·unix
电商数据girl35 分钟前
有哪些常用的自动化工具可以帮助处理电商API接口返回的异常数据?【知识分享】
大数据·分布式·爬虫·python·系统架构
CoooLuckly38 分钟前
numpy数据分析知识总结
python·numpy
超龄超能程序猿1 小时前
(六)PS识别:源数据分析- 挖掘图像的 “元语言”技术实现
python·组合模式
开开心心_Every1 小时前
全能视频处理工具介绍说明
开发语言·人工智能·django·pdf·flask·c#·音视频
xunberg1 小时前
AI Agent 实战:将 Node-RED 创建的 MCP 设备服务接入 Dify
人工智能·mcp
江瀚视野1 小时前
美团即时零售日订单突破1.2亿,即时零售生态已成了?
大数据·人工智能·零售
amazinging2 小时前
北京-4年功能测试2年空窗-报培训班学测开-第四十四天
python·学习·appium
KaneLogger2 小时前
AI模型与产品推荐清单20250709版
人工智能·程序员·开源
中电金信2 小时前
中电金信 :十问高质量数据集:金融大模型价值重塑有“据”可循
人工智能·金融