技术栈
明明已经把vllm被强制kill了,但是仍然占用GPU显存
hit56实验室
2026-02-25 10:46
强制杀掉所有包含 vllm 关键字的进程
pkill -9 -f vllm
如果 vllm 启用了 ray,清理残留的 ray worker
pkill -9 -f ray
或者更直接一点,清理当前用户下的挂起 python 进程(谨慎使用,确保没杀错)
pkill -9 -f python
vllm
上一篇:
【MySQL】4. MySQL表的操作
下一篇:
CCF-CSP 33-2 相似度计算(jaccard)【C++】考点:STL容器(set/map)
相关推荐
零依赖极客
10 小时前
Day 6·1 ARMv8.2 dotprod——vdotq_s32 一条指令做 4 个点积
c语言
·
开发语言
·
人工智能
·
矩阵
·
arm
·
vllm
Albart575
18 小时前
大模型无限循环输出、重复生成文本:参数层面规避幻觉输出实战
大模型
·
llm
·
vllm
·
大模型推理
·
幻觉
·
重复输出
早睡早起身体好123
2 天前
用 XGrammar 约束大模型工具调用:解决参数为空的问题
android
·
人工智能
·
神经网络
·
机器学习
·
自然语言处理
·
vllm
basketball616
5 天前
AI Infra 推理部署技术总结:2. vLLM 内核——PagedAttention 与调度器原理
android
·
人工智能
·
vllm
·
ai infra
CV-杨帆
7 天前
在自己的服务器上搭建VLLM 以Qwen3.5-0.8B与Qwen3.5-4B为模型基础
运维
·
服务器
·
vllm
Zguigo
8 天前
Coding Agent 上下文压缩:从 Claude Code / Codex / Pi 到自研策略
深度学习
·
vllm
DevOps老兵
10 天前
AI Infra实战05:用Helm在K8s中部署vLLM,从安装到压测全流程
人工智能
·
kubernetes
·
helm
·
vllm
·
大模型推理
·
ai infra
方方洛
11 天前
vllm教程-02-核心原理
人工智能
·
算法
·
vllm
苏子寒
12 天前
Nano-VLLM全代码解析笔记(10)-GemmaRMSNorm和MRoPE
笔记
·
机器学习
·
ai
·
nlp
·
vllm
热门推荐
01
国内可直接用、免费额度/永久免费的大模型API清单(含 SiliconFlow、火山、阿里、智谱、百度、Kimi、DeepSeek、DMXAPI 等)
02
蜘蛛磁力 搜索引擎大全,如何使用蜘蛛磁力查找磁力链接
03
GitHub 镜像站点
04
历年考研数学一、数学二、数学三真题试卷及答案PDF
05
【一等奖版】2026 国赛 A题 药材的烘干问题
06
微信历史版本含下载地址( Windows PC | 安卓 | MAC )及设置微信不更新
07
2026 国产 AI 大模型横评:DeepSeek、通义千问、Kimi、文心一言、星火、豆包谁更能打?
08
人工智能(AI)发展史:详细里程碑
09
ZCode 周末送额度活动开启:3 亿 Token 免费领取
10
如何新建文件夹? 电脑新建文件夹的4种方法