技术栈
rtx3090
论文复现现场
7 天前
人工智能
·
pytorch
·
python
·
深度学习
·
cuda
·
rtx3090
RTX 3090 24GB 适合科研吗?单卡论文复现、PyTorch 显存检查与 OOM 排错
RTX 3090 24GB 适合不少单卡深度学习科研实验,包括图像分类、二维分割、小模型微调和部分量化大模型实验。是否够用,要看训练方式、输入尺寸和批大小;能启动程序,也不等于能复现论文指标。
论文复现现场
10 天前
开发语言
·
pytorch
·
batch
·
cuda
·
rtx3090
论文复现看到“RTX 3090 or higher”:显存、CUDA、batch size 与 OOM 怎么判断?
“RTX 3090 or higher”通常表示作者至少在24GB显存、Ampere级CUDA环境中验证过,不代表显卡型号越新就一定能运行。应先看显存峰值,再检查CUDA兼容性,最后用最小输入实跑。
论文复现现场
19 天前
cuda
·
多模态大模型
·
显存优化
·
rtx3090
·
minicpm-o
MiniCPM-o 4.5 需要多少显存?RTX 3090 24GB 的 BF16、AWQ、GGUF 部署边界与验收方法
先给结论:RTX 3090 的 24GB 显存不能按官方口径稳定承载 MiniCPM-o 4.5 完整 PyTorch 全双工 Web Demo;它更适合 AWQ、GGUF,或关闭部分模态后的单轮验证。若目标是原精度、完整音视频全双工服务,应按官方“至少 28GB 显存”要求选卡。
论文复现现场
20 天前
模型量化
·
vllm
·
大模型推理
·
awq
·
算家云
·
rtx3090
RTX 3090 如何跑 13B 级大模型推理?4-bit AWQ、vLLM 部署与并发调优实战
更新时间:2026 年 9 月 20 日 适用环境:Linux、NVIDIA RTX 3090 24GB、Docker、CUDA 驱动
我是有底线的