服务器配置llama-factory问题解决

在配置运行llama-factory,环境问题后显示环境问题。这边给大家附上连接,我们的是liunx环境但是还是一样的。大家也记得先配置虚拟环境。

LLaMA-Factory部署以及微调大模型_llamafactory微调大模型-CSDN博客

之后大家看看遇到的问题是不是我这样。

AI搜索的问题显示的是:

pip install flash-attn --no-build-isolation

这个不会安装cuda什么其他环境,那时候我更新了一下库,直接llama-factory瘫了。。

之后大家就可以美美调用了。

还有一个问题有时候显示缓存不足惹。。。。

相关推荐
老刘说AI3 小时前
AI服务核心: 高并发原理与性能监控调优
人工智能·神经网络·langchain·llama·持续部署
头茬韭菜1 天前
Kronos 模型推理性能基准测试报告
llama
亮亮在江湖1 天前
# 手写原生Transformers SFT脚本 vs LLaMA Factory 训练 核心完整对比
llama
染指11101 天前
61.RAG-RAG存在的问题
人工智能·llama·rag·llama_index·llamaindex
CClaris6 天前
大模型量化从0到1(九):用 llama.cpp 把模型转成 GGUF 并跑本地推理
人工智能·pytorch·python·深度学习·llama
染指11106 天前
56.llama_index-查询引擎
人工智能·llama·rag·llama_index·llamaindex
_codemonster6 天前
从零手搓大模型(七)GPT 转 Llama:从教学版 GPT 走向现代 LLM 架构
人工智能·gpt·大模型·llama
SLD_Allen7 天前
Purple Llama:Meta开源的LLM安全“紫队”工具箱
安全·开源·llama
俊俊谢7 天前
从零搭建:本地LangChain Agent调用远程LLaMA-Factory模型服务
langchain·llama
liming4957 天前
Ubuntu + Docker + NVIDIA 显卡 上部署 Ollama
llama