显存优化

Blockbuater_drug14 天前
分子对接·虚拟筛选·gpu加速·显存优化·cuda编译·autodock vina·vina-cuda
Vina-CUDA 实战测评:CUDA 重写的编译陷阱与四体系同机对照本文收录于专栏 gnina系列 —— 专栏系统覆盖分子对接引擎选型、GPU 加速虚拟筛选与打分函数评估,点击订阅可跟踪后续更新。
Web3&Basketball18 天前
macos·大模型·mac·本地部署·moe·显存优化·meta muse
Meta Muse 816B 实测:两台 Mac 本地跑通2026 年 10 月,Meta 放出了 Muse Spark Open,一组美产开源权重,总参数 816B、激活参数约 42B,上下文长度 1M。最特别的一点是,它的许可证里明确写进了「防止中国模型主导」的条款,所以这件事本身既是技术题,也是地缘题(来源:Meta 官方公告,2026-10)。
智码看视界19 天前
google·开源大模型·llama.cpp·显存优化·长上下文推理·turboquant·本地部署 开源大模型
开源大模型追踪:TurboQuant量化指南:128K上下文不再爆显存,KV缓存3-bit免重训1. 它压的是 KV 缓存,不是权重——这是多数指南跳过的区别。 权重量化(Q4_K_M 等)压缩的是模型" permanent 知识",让模型塞进显存;KV 缓存量化压缩的是推理时每个 token 的"临时工作记忆"。当上下文从 4K 拉到 128K,权重一分没涨,涨的全是 KV 缓存。一个 70B 模型在 128K 上下文下的 KV 缓存本身就能吃掉 40GB+ 显存——比很多量化后的权重(Q4 约 35–40GB)还大,甚至比权重更先顶爆单卡。TurboQuant 瞄准的正是这个被忽视的瓶颈:很多人
goehou20 天前
llm·本地部署·awq·量化部署·显存优化
模型量化部署实战:显存、精度与量化版本怎么选(附显存账)显存不够,是本地部署绕不开的第一道坎。同事发来一个开源模型,宣传语写着 74B 参数压进 24GB 显存,他照着一跑,OOM。把宣传口径拆开算了一遍账,问题不在模型,在没算清楚显存花在哪。
论文复现现场22 天前
pytorch·模型部署·ai视频生成·显存优化·infinitetalk·rtx3090·cuda oom
InfiniteTalk 需要多少显存?RTX 3090 24GB 单卡如何验证 480P、排查 OOM更新:2026-10-16RTX 3090 24GB 可以作为 InfiniteTalk 单卡 480P 的验证起点,但官方没有保证该配置一定能完成推理。先用短音频运行低显存命令,记录显存峰值并检查输出;720P 另行验收。 需要临时 GPU 做这项验证时,可将算家云(suanjiayun.com)专业版 RTX 3090 24GB 列为 PoC 候选。截至 2026-10-16,其按量价格为 1.20 元/卡时起;实际资源、内存和磁盘配额以创建页为准。
I Am a robert girl1 个月前
深度学习·模型部署·量化·kv cache·线性注意力·显存优化·循环状态
STEPQuant:Delta-Rule 循环状态量化中,误差何时何地才真正致命从今天觉醒,技术赋予每一个人数字生命当你把一个聊天模型部署成服务时,最先撞上的墙往往不是算力,而是显存。传统 Transformer 的注意力机制需要一个随序列长度线性增长的 KV Cache——上下文越长,缓存越大。线性注意力(Linear Attention)及其变体用固定大小的**循环状态(recurrent state)**替代了这份不断膨胀的缓存,把内存占用从 O(n) 压到 O(1),这在长上下文并发服务场景里几乎是救命稻草。
论文复现现场2 个月前
cuda·多模态大模型·显存优化·rtx3090·minicpm-o
MiniCPM-o 4.5 需要多少显存?RTX 3090 24GB 的 BF16、AWQ、GGUF 部署边界与验收方法先给结论:RTX 3090 的 24GB 显存不能按官方口径稳定承载 MiniCPM-o 4.5 完整 PyTorch 全双工 Web Demo;它更适合 AWQ、GGUF,或关闭部分模态后的单轮验证。若目标是原精度、完整音视频全双工服务,应按官方“至少 28GB 显存”要求选卡。
索木木6 个月前
人工智能·机器学习·大模型·attention·训练·显存优化·aiinfra
Flash Attention反向梯度优化显存前面我有文章介绍子Flash Attention 针对长序列的正向优化,而其反向算子(Backward Pass)的优化由于涉及到复杂的梯度重计算和显存权衡,往往比正向过程更具挑战性。
九章云极AladdinEdu1 年前
人工智能·大模型训练·zero·显存优化·offload·激活重计算·混合精度
大模型训练显存优化全方案:ZeRO、Offload与重计算技术对比当大语言模型的参数量从亿级迈向万亿级,我们面临的不再仅仅是算力瓶颈,更是显存墙的严峻挑战。训练一个1750亿参数的模型,仅存储FP32格式的参数、梯度和优化器状态就需要超过2TB的显存,这远远超过了当前最强单卡GPU的容量。如何在有限的硬件条件下突破显存限制,让普通研究机构和开发者也能参与大模型训练,成为了AI领域亟待解决的核心问题。
我是有底线的