# 微调需要准备哪些环境配置?

微调需要准备哪些环境配置?

如果没有 GPU,即便是微调较小的大语言模型(LLMs),过程也会比较慢。如果你已经有了现成的 GPU,那就可以直接开工了。不过,并不是所有人都能负担得起 GPU------ 这种情况下,你可以使用云服务平台来跟随本实操系列课程运行代码,比如 Google Colab(免费版提供 Tesla T4 GPU,含 15GB 内存)和 runpod.io(付费服务)。

Google Colab 配置

Google Colab 的默认环境已经包含了将用到的大部分库,只需要额外安装三个库:datasets、bitsandbytes和trl,操作非常简单。

Runpod.io 配置

RunPod 的 Jupyter Notebook 模板只预装了两个库:numpy和torch,因此你需要手动安装所有其他必要的包。

可选库

还有几个可选库:ollama、unsloth、xformers和gguf。 用于转换和部署微调后的模型。根据你在这些步骤中选择的方案不同,可能需要安装其中一个或多个库。

相关推荐
广州明周科技10 小时前
Revit 200+新功能之“明周科技功能商店 AI推荐助手”
科技·ai·信息可视化·bim·revit二次开发·revit·deepseek
Java陈序员15 小时前
告别繁琐操作!这款神器用 AI 轻松绘制专业图表!
openai·next.js·deepseek
realhuizhu1 天前
你的代码正在腐烂:为什么我们都不敢碰那座“屎山”?
ai编程·软件架构·代码重构·deepseek·技术债务
视觉&物联智能1 天前
【杂谈】-边缘计算竞赛:人工智能硬件缘何超越云端
人工智能·ai·chatgpt·aigc·边缘计算·agi·deepseek
RebeccaGuan08082 天前
泛微.采知连知识管理平台深度应用DeepSeek,自动采集数据,让问答更安全·准确
人工智能·智能问答·知识管理·deepseek·知识采集
AI大模型学徒2 天前
大模型应用开发(十七)_RAG架构概述
大模型·知识库·rag·deepseek
产品何同学3 天前
复刻DeepSeek与GPT!AI智能对话Web高保真原型设计全解析
人工智能·gpt·墨刀·高保真原型·deepseek·ai智能写作·ai智能对话
多则惑少则明3 天前
AI大模型实用(一)SpringAI接入deepseek示例
springai·deepseek·ai大模型测试
、、、、南山小雨、、、、4 天前
云端部署DeepSeek + 本机Cherry Studio接入
deepseek
weixin_416660074 天前
插件分享:将AI生成的数学公式无损导出为Word文档
人工智能·ai·word·论文·数学公式·deepseek