LLaMa Factory 安装

1、环境准备

2、 下载LLamaFactory

复制代码
# 拉取LLamaFactory
git clone --depth 1 https://github.com/hiyouga/LLaMA-Factory.git

# 进入LLamaFactory目录
cd LLaMA-Factory

# 安装依赖
pip install -e ".[torch,metrics]"

#端口映射
 export GRADIO_SERVER_PORT=7860 GRADIO_ROOT_PATH=/${JUPYTER_NAME}/proxy/7860/

#启动LLamaFactory
llamafactory-cli webui

3、点击 http://0.0.0.0:7860,打开UI界面

相关推荐
Mr_sst1 天前
infra-ai模块宏观设计解析:业务与模型之间的中间层核心架构
大数据·人工智能·ai·llama
微软技术分享1 天前
Windows平台下CUDA安装及llama.cpp使用教程
windows·llama
小wu学cv2 天前
llama.cpp调用GPU推理Qwen3.5-0.8b模型
llama
zhangfeng11332 天前
LLaMA-Factory 保存 checkpoint 时崩溃解决办法 OOM 内存溢出(不是显存)
运维·服务器·人工智能·深度学习·llama
老唐7773 天前
30分钟手搓 Agent:LLM + Tools + Loop + Memory 跑通最小闭环
人工智能·ai·语言模型·agent·llama·智能体
高兴就好(石4 天前
Mac使用llama.cpp
macos·llama
zhangfeng11334 天前
No space left on device (28) llamafactory微调训练的时候 报错,需要调节 dataloader_num_workers
人工智能·语言模型·llama
阿珊和她的猫4 天前
大模型在客服场景:落地路径 + 效果评估
ai·agent·llama·cli·mcp
谷子熟了5 天前
电商智能客服系统本地搭建
经验分享·docker·typescript·ai编程·llama
YXHPY5 天前
开源 AI 工作流底座正在加速:从 llama.cpp、Ollama 到 vLLM 与 Agent 编排
人工智能·开源·llama