解决auto_gptq安装问题

本地环境:autodl-ai租的服务器

安装了llamafactory,

在操作量化操作的时候显示需要安装auto_gptq

执行命令pip intall auto_gptq报错:

can't open file '/tmp/pip-install-mhxu1rw6/auto-gptq_65975ab1110b496eab719344c30e2479/./autogptq_extension/qigen/generate.py':

解决办法:使用源码安装:

git clone https://github.com/PanQiWei/AutoGPTQ.git && cd AutoGPTQ

set BUILD_CUDA_EXT=0

pip install .

既可成功解决问题。

llamafactory任然可能会报错环境问题,重启llamafactory可能可以解决问题

相关推荐
充钱大佬2 小时前
Python测试基础教程
python·log4j·apache
初心丨哈士奇4 小时前
Python 四大基础容器|列表篇
python
明理的信封5 小时前
AI 基础设施的“去 Python 化“:Rust 与 C# 的两条替代路径
人工智能·python·rust
麻雀飞吧6 小时前
2026年AI量化开发,先跑通小流程再加复杂功能
人工智能·python
daphne odera�6 小时前
PyCharm 中 Codex 插件启动失败:unknown variant default 的解决方法
python·chatgpt·pycharm
nbu04william7 小时前
Deepseek-api省token的用法
python·大模型·token·deepseek
测试老哥7 小时前
Pytest自动化测试详解
自动化测试·软件测试·python·测试工具·测试用例·pytest·接口测试
坚持学习前端日记7 小时前
国产化适配全流程适配英伟达本地开发
人工智能·python
源图客8 小时前
云途物流API开发-鉴权认证(Java)
java·网络·python
三川6989 小时前
Tkinter库的学习记录06-变量类别
python