ubuntu 25 安装vllm

之前在网上查过很多资料,没有一个可以完整安装下来的,包括deepseek给出的方案也不行,自己亲测安装记录一下。

安装驱动 & CUDA

复制代码
sudo apt update
sudo apt install -y nvidia-driver-550 
sudo reboot

安装curl

复制代码
sudo apt install curl

使用包管理器(如 apt, yum, dnf 等)

复制代码
sudo apt update
sudo apt install libuv1-dev  # 安装开发库

安装后重启终端或运行

复制代码
source ~/.bashrc

为了避免安装时出现设备空间不足,修改缓存路径

清理/tmp目录

复制代码
sudo rm -rf /tmp/*

创建一个新的文件夹

复制代码
mkdir tmp

添加行

复制代码
export TMPDIR=/home/vlm/tmp

确保系统已更新

复制代码
sudo apt update && sudo apt upgrade -y

安装node.js

复制代码
curl -sL https://deb.nodesource.com/setup_14.x | sudo -E bash -
sudo apt-get install -y nodejs

然后,你可以使用 npm 来安装 uv 或任何相关的 Node.js 包:

复制代码
npm install uv

安装其他语言的库

复制代码
sudo apt-get install python3-pip
pip3 install uvloop  # 例如,安装 uvloop,这是一个 Python 的异步库

安装pipx

复制代码
sudo apt install pipx

安装uv工具

复制代码
pipx install uv

安装 astral-uv Snap 包

复制代码
sudo snap install astral-uv --classic

查看uv版本

复制代码
uv --version

安装 Python 3.12 和相关工具

复制代码
curl -Ls https://astral.sh/uv/install.sh | bash
uv venv vllm-env --python 3.12 --seed
source vllm-env/bin/activate

查看python版本

复制代码
python3.12 --version

安装pip

复制代码
sudo apt install python3-pip

更新pip版本

复制代码
pip install --upgrade pip

不缓存vllm安装

复制代码
pip install --no-cache-dir vllm -i https://pypi.tuna.tsinghua.edu.cn/simple

验证

复制代码
pip show vllm
相关推荐
Felven18 分钟前
麒麟信安系统忘记root密码解决说明
linux·运维·服务器
docsz23 分钟前
Ubuntu 22.04部署MySQL8.4
mysql·ubuntu
IMPYLH26 分钟前
Linux 的 base64 命令
linux·运维·服务器·bash·shell
程序员果子28 分钟前
Nginx 从入门到精通:全面解析与实战指南
linux·运维·服务器·nginx
道清茗31 分钟前
【RH134知识点问答题】第11章 管理网络安全
linux·安全·web安全
微露清风42 分钟前
系统性学习Linux-第七讲-库制作与原理
linux·运维·学习
Yupureki1 小时前
《C++实战项目-高并发内存池》7.大块内存的申请与释放
服务器·c语言·开发语言·c++·算法·哈希算法
Kindavid1 小时前
【嵌入式】瑞芯微RK3566芯片移植主线linux并适配wifi蓝牙驱动
linux·嵌入式·rk3566·rockchip·泰山派·ap6212
yashuk1 小时前
Redis的安装教程(Windows+Linux)【超详细】
linux·数据库·redis
认真的薛薛1 小时前
解决openclaw下载OMM问题
linux·编辑器·vim