服务器配置llama-factory问题解决

在配置运行llama-factory,环境问题后显示环境问题。这边给大家附上连接,我们的是liunx环境但是还是一样的。大家也记得先配置虚拟环境。

LLaMA-Factory部署以及微调大模型_llamafactory微调大模型-CSDN博客

之后大家看看遇到的问题是不是我这样。

AI搜索的问题显示的是:

pip install flash-attn --no-build-isolation

这个不会安装cuda什么其他环境,那时候我更新了一下库,直接llama-factory瘫了。。

之后大家就可以美美调用了。

还有一个问题有时候显示缓存不足惹。。。。

相关推荐
heroboyluck11 小时前
AI工程师第四课 - 深度学习入门
人工智能·python·深度学习·llama
Token炼金师3 天前
引擎四强:vLLM、SGLang、TensorRT-LLM 与 llama.cpp —— 推理引擎选型对决
人工智能·llm·llama·vllm·tensorrt-llm·sglang
尼米棕熊4 天前
大模型学习8上-推理部署框架llama.cpp与Ollama使用指北
学习·llama
Day(AKA Elin)4 天前
【Day】MTP(Multi Token Prediction)技术学习
python·深度学习·学习·llama
染指11104 天前
50.llama_index-文档分割器(文本)
llama·rag·llamaindex
Scabbards_7 天前
经典大语言模型框架整理(gpt/llama/chatglm/qwen/deepseek)
gpt·语言模型·llama
染指11108 天前
46.llama_index-提示词模板(富提示词模板、jinja2静态和动态模板)
llama·rag·llamaindex
染指111010 天前
45.llama_index-全局配置(Settings)
llama·llamaindex
俊俊谢10 天前
LLaMA-Factory 部署与 DeepSeek-R1-Distill-Qwen 模型乱码问题解决全记录
机器学习·大模型·llama·qwen·llama-factory·deepseek·hugging-face
sunywz10 天前
【AI】基于LLaMA-Factory大模型微调
人工智能·llama