【llamafactory】安装与环境配置

bksheng2024-11-30 13:21

拉取镜像

bash 复制代码

git clone --depth 1 https://github.com/hiyouga/LLaMA-Factory.git
cd LLaMA-Factory

创建虚拟环境

bash 复制代码

conda create -n llamafactory python=3.10
conda activate llamafactory

安装所需依赖

bash 复制代码

pip install -e ".[torch,vllm,optimum,auto_gptq]"

上一篇：基于 LlamaFactory 的 LoRA 微调模型支持 vllm 批量推理的实现

下一篇：LLamafactory 批量推理与异步 API 调用效率对比实测

热门推荐

01GitHub 镜像站点 02BongoCat - 跨平台键盘猫动画工具 03UV安装并设置国内源 04Linux下V2Ray安装配置指南 05GitLab 零基础入门指南：从安装到项目管理全流程 06NVIDIA显卡驱动、CUDA、cuDNN 和 TensorRT 版本匹配指南 07一文了解国产算子编程语言 TileLang，TileLang 对国产开源生态的影响与启示 08在VSCode配置Java开发环境的保姆级教程（适配各类AI编程IDE）092025软件测试面试八股文（含答案+文档）10XXE 注入漏洞全解析：从原理到实战