# 微调需要准备哪些环境配置?

微调需要准备哪些环境配置?

如果没有 GPU,即便是微调较小的大语言模型(LLMs),过程也会比较慢。如果你已经有了现成的 GPU,那就可以直接开工了。不过,并不是所有人都能负担得起 GPU------ 这种情况下,你可以使用云服务平台来跟随本实操系列课程运行代码,比如 Google Colab(免费版提供 Tesla T4 GPU,含 15GB 内存)和 runpod.io(付费服务)。

Google Colab 配置

Google Colab 的默认环境已经包含了将用到的大部分库,只需要额外安装三个库:datasets、bitsandbytes和trl,操作非常简单。

Runpod.io 配置

RunPod 的 Jupyter Notebook 模板只预装了两个库:numpy和torch,因此你需要手动安装所有其他必要的包。

可选库

还有几个可选库:ollama、unsloth、xformers和gguf。 用于转换和部署微调后的模型。根据你在这些步骤中选择的方案不同,可能需要安装其中一个或多个库。

相关推荐
OneThingAI15 小时前
网心算力云上线 DeepSeek-V4-Pro
人工智能·aigc·deepseek·onethingai
wj30558537816 小时前
Claude Code 接入 DeepSeek:环境变量、CC Switch 与模型选择总结
deepseek·claude code·cc switch
AC赳赳老秦1 天前
团队知识库搭建:用 OpenClaw 自动整理会议纪要、技术方案、故障复盘,同步到 Confluence / 语雀
开发语言·前端·python·github·visual studio·deepseek·openclaw
山顶夕景1 天前
【LLM】DeepSeek-V4模型架构和训练流程
agent·deepseek·推理优化·混合注意力
钟智强1 天前
DeepSeek-R1 V3.2 V4架构训练推理性能实测分析,企业私有化部署选型对照表
ai·架构·llm·deepseek
罗迪克2 天前
DeepSeek V4系列:Agent 的觉醒
deepseek
程序员差不多先生2 天前
Openvela+ 瑞芯微+DeepSeek 桌面机器人实战评测
机器人·瑞芯微·deepseek·openvela·桌面机器人
苏渡苇2 天前
DeepSeek V4 实战:自然语言生成 SQL + 智能优化引擎
ai·springboot·spring ai·deepseek·ai推理·deepseek v4·自然语言生成sql
大数据在线2 天前
AI计算新生态:旧地图找不到新大陆
cuda·昇腾·cann·英伟达·deepseek