LLaMA Factory环境配置

LLaMA-Factory官方文档

安装正确的torch和cuda版本

参考:

PyTorch

报错解决

1.ImportError: /usr/lib/x86_64-linux-gnu/libstdc++.so.6: version `GLIBCXX_3.4.29` not found

参考这个解决:丝滑解决ImportError: /usr/lib/x86_64-linux-gnu/libstdc++.so.6: version `GLIBCXX_3.4.29' not found问题

2.flash_attn_2_cuda.cpython-311-x86_64-linux-gnu.so: undefined symbol: _ZN3c105ErrorC2ENS_14SourceLocationENSt7__cxx1112basic_stringIcSt11char_traitsIcESaIcEEE

参考这个重新安装flash-attention:

[已解决] flash-attn报错flash_attn_2_cuda.cpython-310-x86_64-linux-gnu.so: undefined symbol-CSDN博客

安装flash-attention

3.python3.11/site-packages/torch/lib/../../nvidia/cusparse/lib/libcusparse.so.12: symbol __nvJitLinkComplete_12_4 version libnvJitLink.so.12 not defined in file libnvJitLink.so.12 with link time reference

torch包坏了,重装torch

4.cannot import name 'log' from 'torch.distributed.elastic.agent.server.api'

成功解决ImportError: cannot import name 'log' from 'torch.distributed.elastic.agent.server.api'_importerror: cannot import name 'log' from 'torch.-CSDN博客

相关推荐
神奇夜光杯18 分钟前
Python酷库之旅-第三方库Pandas(181)
开发语言·人工智能·python·excel·pandas·标准库及第三方库·学习与成长
光明中黑暗19 分钟前
Python 学习笔记
笔记·python·学习
tang138976428 分钟前
Python(包和模块)
开发语言·python
徐小夕@趣谈前端29 分钟前
MaxKB: 一款基于大语言模型的知识库问答系统
人工智能·语言模型·自然语言处理
正义的彬彬侠41 分钟前
近似线性可分支持向量机的原理推导
人工智能·机器学习·支持向量机·svm·近似线性可分支持向量机
正义的彬彬侠42 分钟前
绘制近似线性可分支持向量机的分类边界和支持向量
人工智能·python·机器学习·支持向量机·分类·svm
爱喝白开水a42 分钟前
零基础入门AI:一键本地运行各种开源大语言模型 - Ollama
人工智能·程序人生·语言模型·开源·大语言模型·开源大模型·大模型入门
纪怽ぅ1 小时前
LSTM——长短期记忆神经网络
python·深度学习·神经网络·算法·机器学习·lstm
云空1 小时前
《神经网络助力战场车辆及部件损毁识别与评估》
人工智能·深度学习·神经网络
yannan201903131 小时前
【算法】(Python)回溯算法
python·算法