CentOS Linux 8 的系统部署 Qwen2.5-7B -Instruct-AWQ

安装依赖组件

安装 EPEL 仓库

sudo yum install -y epel-release

安装基础工具链

sudo yum install -y git python3-pip gcc-c++ make

创建 Python 虚拟环境

创建虚拟环境

python3 -m venv qwen-env

source qwen-env/bin/activate

升级 pip 并安装常用库

pip install --upgrade pip

pip install torch==2.1.0+cu118 torchvision==0.16.0+cu118 torchaudio==2.1.0+cu118 --extra-index-url https://download.pytorch.org/whl/cu118

pip install transformers accelerate bitsandbytes optimum

下载并加载 Qwen2.5-7B-Instruct-AWQ 模型

git clone https://huggingface.co/Qwen/Qwen2.5-7B-Instruct-AWQ

相关推荐
管家婆客服中心23 分钟前
管家婆分销ERP A/V系列导出提示加载数据过大的处理方式
linux·服务器·apache
Austindatabases23 分钟前
沧海要,《SQL SERVER 运维之道》,清风笑,竟惹寂寥
运维
久绊A1 小时前
指定端口-SSH连接的目标(告别 22 端口暴力破解)
linux·网络·ssh
2401_897930061 小时前
tensorflow常用使用场景
人工智能·python·tensorflow
deepdata_cn2 小时前
开源混合专家大语言模型(DBRX)
人工智能·语言模型
deepdata_cn2 小时前
开源本地LLM推理引擎(Cortex AI)
人工智能·推理引擎
说私域3 小时前
“互联网 +”时代商业生态变革:以开源 AI 智能名片链动 2+1 模式 S2B2C 商城小程序为例
人工智能·小程序·开源
stbomei3 小时前
AI大模型如何重塑日常?从智能办公到生活服务的5个核心改变
人工智能
酷飞飞3 小时前
错误是ModuleNotFoundError: No module named ‘pip‘解决“找不到 pip”
人工智能·python·pip
ACRELKY4 小时前
光伏运维迎来云端革命!AcrelCloud-1200如何破解分布式光伏四大痛点?
运维·分布式