accelerate的使用说明

1 多卡(GPU)使用方法

终端输入指令,生成问答页面

复制代码
accelerate config

这个方法也是可以的

2

后面修改直接找到这个yaml文件进行修改即可

复制代码
cd ~/.cache/huggingface/accelerate

vim default_config.yaml

进入vim进行修改

3 单卡(GPU)使用方法

vim default_config.yaml

进入vim进行修改

这里写的是0,1但是实际使用的是0卡

相关推荐
大千AI助手几秒前
直接偏好优化(DPO):原理、演进与大模型对齐新范式
人工智能·神经网络·算法·机器学习·dpo·大模型对齐·直接偏好优化
ReinaXue6 分钟前
大模型【进阶】(四)QWen模型架构的解读
人工智能·神经网络·语言模型·transformer·语音识别·迁移学习·audiolm
静心问道10 分钟前
Deja Vu: 利用上下文稀疏性提升大语言模型推理效率
人工智能·模型加速·ai技术应用
小妖同学学AI14 分钟前
deepseek+飞书多维表格 打造小红书矩阵
人工智能·矩阵·飞书
阿明观察15 分钟前
再谈亚马逊云科技(AWS)上海AI研究院7月22日关闭事件
人工智能
zzywxc7871 小时前
AI 驱动的软件测试革新:框架、检测与优化实践
人工智能·深度学习·机器学习·数据挖掘·数据分析
WSSWWWSSW2 小时前
华为昇腾NPU卡 文生视频[T2V]大模型WAN2.1模型推理使用
人工智能·大模型·音视频·显卡·文生视频·文生音频·文生音乐
数据要素X2 小时前
【数据架构10】数字政府架构篇
大数据·运维·数据库·人工智能·架构
Ronin-Lotus2 小时前
深度学习篇---PaddleDetection模型选择
人工智能·深度学习
qq_40999093?2 小时前
安全和AI方向的学习路线
人工智能·安全