# 微调需要准备哪些环境配置?

微调需要准备哪些环境配置?

如果没有 GPU,即便是微调较小的大语言模型(LLMs),过程也会比较慢。如果你已经有了现成的 GPU,那就可以直接开工了。不过,并不是所有人都能负担得起 GPU------ 这种情况下,你可以使用云服务平台来跟随本实操系列课程运行代码,比如 Google Colab(免费版提供 Tesla T4 GPU,含 15GB 内存)和 runpod.io(付费服务)。

Google Colab 配置

Google Colab 的默认环境已经包含了将用到的大部分库,只需要额外安装三个库:datasets、bitsandbytes和trl,操作非常简单。

Runpod.io 配置

RunPod 的 Jupyter Notebook 模板只预装了两个库:numpy和torch,因此你需要手动安装所有其他必要的包。

可选库

还有几个可选库:ollama、unsloth、xformers和gguf。 用于转换和部署微调后的模型。根据你在这些步骤中选择的方案不同,可能需要安装其中一个或多个库。

相关推荐
云道轩6 小时前
采用claude code分析和设计业务应用软件的安全架构
安全架构·deepseek·claude code
༺ཌༀ傲世万物ༀད༻8 小时前
如何运用好DeepSeek为自己服务:智能增强的范式革命 || 3.1 脑机接口协同训练
人工智能·deepseek
AI英德西牛仔1 天前
deepseek怎么导出文档
人工智能·ai·chatgpt·deepseek·ds随心转
竹之却1 天前
OpenClaw 切换其他大模型(以DeepSeek为例)
deepseek·openclaw·云养虾·模型切换·openclaw 切换大模型
AI英德西牛仔1 天前
deepseek导出word排版
人工智能·ai·chatgpt·deepseek·ds随心转
金刚猿1 天前
AI -- 实现多轮对话且将消息数据基于ChatMemory持久化到 Redis 示例
ai·deepseek·ai多轮对话·持久化到redis
AC赳赳老秦1 天前
使用OpenClaw tavily-search技能高效撰写工作报告:以人工智能在医疗行业的应用为例
运维·人工智能·python·flask·自动化·deepseek·openclaw
大数据AI人工智能培训专家培训讲师叶梓2 天前
120B 数学语料 + GRPO 算法,DeepSeekMath 刷新开源大模型推理天花板
人工智能·算法·大模型·推理·deepseek·openclaw·openclaw 讲师
JuckenBoy2 天前
Linux环境安装SGLang框架运行自选大模型(以Rocky9.7为例)
linux·运维·大模型·qwen·rocky·deepseek·sglang
winfredzhang2 天前
用 Python + DeepSeek AI 构建文件批量重命名与智能管理工具
python·api·重命名·预览·解压·deepseek