LLaMa Factory 安装

1、环境准备

2、 下载LLamaFactory

复制代码
# 拉取LLamaFactory
git clone --depth 1 https://github.com/hiyouga/LLaMA-Factory.git

# 进入LLamaFactory目录
cd LLaMA-Factory

# 安装依赖
pip install -e ".[torch,metrics]"

#端口映射
 export GRADIO_SERVER_PORT=7860 GRADIO_ROOT_PATH=/${JUPYTER_NAME}/proxy/7860/

#启动LLamaFactory
llamafactory-cli webui

3、点击 http://0.0.0.0:7860,打开UI界面

相关推荐
Jurio.16 小时前
使用.py脚本下载并加载开源大模型LLMs
python·ai·llama
解局易否结局1 天前
FlashAttention 在昇腾NPU上的实现:从内存墙到IO感知
llama
Soari2 天前
性能压榨的暴力美学:深度拆解 llama.cpp,结合 GGUF 量化实测,看普通人如何用 2GB 内存硬核跑赢 7B 大模型
llama
weixin_446260853 天前
终极工程指南:llama.cpp 本地AI部署手册 (2026)
人工智能·llama
ONE_SIX_MIX4 天前
新版本 llama-cpp 构建/下载 webui 导致build 失败 解决
llama
Wanderer X4 天前
【LLM】LLaMA
llama
落痕的寒假4 天前
[深度学习] 大模型学习8上-推理部署框架llama.cpp与Ollama使用指北
深度学习·学习·llama
网络工程小王5 天前
【大模型vLLM 使用】学习笔记
笔记·学习·llama
TGITCIC5 天前
大模型训练师的炼丹之道 (1)-最新版llama-factory环境搭建和全排错
微调·sft·llama·模型训练·训练·大模型训练·llama-factory
周公6 天前
记一次在双 RTX 3090 工作站上部署 vLLM 与 Qwen3.6-35B-AWQ 的实战记录
python·ai·llama·vllm·ollama