【llamafactory】安装与环境配置

拉取镜像

bash 复制代码
git clone --depth 1 https://github.com/hiyouga/LLaMA-Factory.git
cd LLaMA-Factory

创建虚拟环境

bash 复制代码
conda create -n llamafactory python=3.10
conda activate llamafactory

安装所需依赖

bash 复制代码
pip install -e ".[torch,vllm,optimum,auto_gptq]"  
相关推荐
ericliu20172 小时前
EfficientQAT: 大型语言模型的高效量化感知训练
人工智能·语言模型·自然语言处理
jieshenai2 小时前
LLamafactory 批量推理与异步 API 调用效率对比实测
深度学习·自然语言处理
jieshenai2 小时前
基于 LlamaFactory 的 LoRA 微调模型支持 vllm 批量推理的实现
深度学习·自然语言处理
知新_ROL4 小时前
LLM*:路径规划的大型语言模型增强增量启发式搜索
人工智能·语言模型·自然语言处理
Liuyc-Code boy5 小时前
【一文读懂】大语言模型
人工智能·语言模型·自然语言处理
sp_fyf_20245 小时前
【大语言模型】ACL2024论文-22 大型语言模型中的自信心:探究大型语言模型生成回答的自信心与概率一致性
人工智能·深度学习·神经网络·机器学习·语言模型·自然语言处理·数据挖掘
魍魉198814 小时前
构建 LLM (大型语言模型)应用程序——从入门到精通(第七部分:开源 RAG)
人工智能·语言模型·自然语言处理
AI视觉网奇18 小时前
视觉语言模型(VLM)学习笔记
人工智能·语言模型·自然语言处理
落叶阳光18 小时前
NLP信息抽取大总结:三大任务(带Prompt模板)
人工智能·自然语言处理·大模型·信息抽取·关系抽取·实体抽取·事件抽取