显存优化

goehou3 小时前
llm·本地部署·awq·量化部署·显存优化
模型量化部署实战:显存、精度与量化版本怎么选(附显存账)显存不够,是本地部署绕不开的第一道坎。同事发来一个开源模型,宣传语写着 74B 参数压进 24GB 显存,他照着一跑,OOM。把宣传口径拆开算了一遍账,问题不在模型,在没算清楚显存花在哪。
论文复现现场2 天前
pytorch·模型部署·ai视频生成·显存优化·infinitetalk·rtx3090·cuda oom
InfiniteTalk 需要多少显存?RTX 3090 24GB 单卡如何验证 480P、排查 OOM更新:2026-10-16RTX 3090 24GB 可以作为 InfiniteTalk 单卡 480P 的验证起点,但官方没有保证该配置一定能完成推理。先用短音频运行低显存命令,记录显存峰值并检查输出;720P 另行验收。 需要临时 GPU 做这项验证时,可将算家云(suanjiayun.com)专业版 RTX 3090 24GB 列为 PoC 候选。截至 2026-10-16,其按量价格为 1.20 元/卡时起;实际资源、内存和磁盘配额以创建页为准。
I Am a robert girl16 天前
深度学习·模型部署·量化·kv cache·线性注意力·显存优化·循环状态
STEPQuant:Delta-Rule 循环状态量化中,误差何时何地才真正致命从今天觉醒,技术赋予每一个人数字生命当你把一个聊天模型部署成服务时,最先撞上的墙往往不是算力,而是显存。传统 Transformer 的注意力机制需要一个随序列长度线性增长的 KV Cache——上下文越长,缓存越大。线性注意力(Linear Attention)及其变体用固定大小的**循环状态(recurrent state)**替代了这份不断膨胀的缓存,把内存占用从 O(n) 压到 O(1),这在长上下文并发服务场景里几乎是救命稻草。
论文复现现场1 个月前
cuda·多模态大模型·显存优化·rtx3090·minicpm-o
MiniCPM-o 4.5 需要多少显存?RTX 3090 24GB 的 BF16、AWQ、GGUF 部署边界与验收方法先给结论:RTX 3090 的 24GB 显存不能按官方口径稳定承载 MiniCPM-o 4.5 完整 PyTorch 全双工 Web Demo;它更适合 AWQ、GGUF,或关闭部分模态后的单轮验证。若目标是原精度、完整音视频全双工服务,应按官方“至少 28GB 显存”要求选卡。
索木木5 个月前
人工智能·机器学习·大模型·attention·训练·显存优化·aiinfra
Flash Attention反向梯度优化显存前面我有文章介绍子Flash Attention 针对长序列的正向优化,而其反向算子(Backward Pass)的优化由于涉及到复杂的梯度重计算和显存权衡,往往比正向过程更具挑战性。
九章云极AladdinEdu1 年前
人工智能·大模型训练·zero·显存优化·offload·激活重计算·混合精度
大模型训练显存优化全方案:ZeRO、Offload与重计算技术对比当大语言模型的参数量从亿级迈向万亿级,我们面临的不再仅仅是算力瓶颈,更是显存墙的严峻挑战。训练一个1750亿参数的模型,仅存储FP32格式的参数、梯度和优化器状态就需要超过2TB的显存,这远远超过了当前最强单卡GPU的容量。如何在有限的硬件条件下突破显存限制,让普通研究机构和开发者也能参与大模型训练,成为了AI领域亟待解决的核心问题。
我是有底线的