CentOS Linux 8 的系统部署 Qwen2.5-7B -Instruct-AWQ

安装依赖组件

安装 EPEL 仓库

sudo yum install -y epel-release

安装基础工具链

sudo yum install -y git python3-pip gcc-c++ make

创建 Python 虚拟环境

创建虚拟环境

python3 -m venv qwen-env

source qwen-env/bin/activate

升级 pip 并安装常用库

pip install --upgrade pip

pip install torch==2.1.0+cu118 torchvision==0.16.0+cu118 torchaudio==2.1.0+cu118 --extra-index-url https://download.pytorch.org/whl/cu118

pip install transformers accelerate bitsandbytes optimum

下载并加载 Qwen2.5-7B-Instruct-AWQ 模型

git clone https://huggingface.co/Qwen/Qwen2.5-7B-Instruct-AWQ

相关推荐
大明者省35 分钟前
《青花》歌曲,使用3D表现出意境
人工智能
空灵之海36 分钟前
Docker部署Nexus Repository Community Edition
运维·docker·容器
aramae36 分钟前
Linux开发工具入门:零基础到熟练使用(二)
linux·运维·服务器·网络·笔记
一朵小红花HH1 小时前
SimpleBEV:改进的激光雷达-摄像头融合架构用于三维目标检测
论文阅读·人工智能·深度学习·目标检测·机器学习·计算机视觉·3d
nassi_1 小时前
I/O详解
linux·php
Daitu_Adam1 小时前
R语言——ggmap包可视化地图
人工智能·数据分析·r语言·数据可视化
weixin_377634841 小时前
【阿里DeepResearch】写作组件WebWeaver详解
人工智能
AndrewHZ1 小时前
【AI算力系统设计分析】1000PetaOps 算力云计算系统设计方案(大模型训练推理专项版)
人工智能·深度学习·llm·云计算·模型部署·大模型推理·算力平台
咖啡教室1 小时前
程序员应该掌握的网络命令telnet、ping和curl
运维·后端
AI_gurubar2 小时前
[NeurIPS‘25] AI infra / ML sys 论文(解析)合集
人工智能