技术栈
明明已经把vllm被强制kill了,但是仍然占用GPU显存
hit56实验室
2026-02-25 10:46
强制杀掉所有包含 vllm 关键字的进程
pkill -9 -f vllm
如果 vllm 启用了 ray,清理残留的 ray worker
pkill -9 -f ray
或者更直接一点,清理当前用户下的挂起 python 进程(谨慎使用,确保没杀错)
pkill -9 -f python
vllm
上一篇:
【MySQL】4. MySQL表的操作
下一篇:
CCF-CSP 33-2 相似度计算(jaccard)【C++】考点:STL容器(set/map)
相关推荐
一颗小树x
1 天前
NVIDIA Jetson Thor 运行 LLM / VLM:模型全整理与 vLLM 实践
人工智能
·
llm
·
jetson
·
vllm
一个王同学
1 天前
从零到一 | CV转多模态大模型 | week17 | LLM 推理优化 & vLLM 详解
人工智能
·
深度学习
·
算法
·
机器学习
·
计算机视觉
·
vllm
换个昵称2
2 天前
大模型学习8下-高性能推理引擎vLLM学习笔记
笔记
·
学习
·
vllm
Token炼金师
2 天前
引擎四强:vLLM、SGLang、TensorRT-LLM 与 llama.cpp —— 推理引擎选型对决
人工智能
·
llm
·
llama
·
vllm
·
tensorrt-llm
·
sglang
武子康
3 天前
调查研究-224 Prefill 与 Decode 分离:高并发 LLM Serving 的下一层架构
人工智能
·
ai
·
架构
·
llm
·
gpu
·
vllm
·
sglang
zhanghaofaowhrql
3 天前
vLLM 与 SGLang 推理框架性能横评:架构、吞吐与延迟的深度解析
架构
·
vllm
·
sglang
高级打杂工程师-伍六六
5 天前
【昇腾】本地 27B 编程模型接入 Claude Code 实战:Qwopus3.6-27B-Coder 在 vLLM-Ascend 上的部署与踩坑
昇腾
·
npu
·
vllm
·
claude code
聪明的一休丶
5 天前
VLLM v0.24.0 版本深度解析:新引擎、新架构与大规模服务全家桶升级
python
·
架构
·
vllm
happyprince
7 天前
21-vLLM 可观测性分析:Metrics & Monitoring
vllm
happyprince
8 天前
15-vLLM 服务接口层(API Layer)源码分析
vllm
热门推荐
01
GitHub 镜像站点
02
幻兽帕鲁 - 服务器管理员权限与 GM 命令完全指南
03
AI科技热点日报 | 2026年07月01日
04
2026年7月AI圈大地震:GPT-5.6被政府限制、Claude入驻Slack、Anthropic自研芯片
05
2026 年 AI 编程工具终极横评:Cursor vs Claude Code vs Copilot vs Windsurf
06
2026 AI 编程工具终极实战指南:Cursor vs Claude Code vs Copilot,开发者该怎么选?
07
AI 编程 IDE 全景解析 2026:Agent 全面接管开发链路
08
2026 国产 AI 大模型横评:DeepSeek、通义千问、Kimi、文心一言、星火、豆包谁更能打?
09
2026 年 AI 大模型 & AI 编程工具实战全总结
10
【AI】2026 年具身智能模型和世界模型总结