rtx3090

论文复现现场7 天前
人工智能·pytorch·python·深度学习·cuda·rtx3090
RTX 3090 24GB 适合科研吗?单卡论文复现、PyTorch 显存检查与 OOM 排错RTX 3090 24GB 适合不少单卡深度学习科研实验,包括图像分类、二维分割、小模型微调和部分量化大模型实验。是否够用,要看训练方式、输入尺寸和批大小;能启动程序,也不等于能复现论文指标。
论文复现现场10 天前
开发语言·pytorch·batch·cuda·rtx3090
论文复现看到“RTX 3090 or higher”:显存、CUDA、batch size 与 OOM 怎么判断?“RTX 3090 or higher”通常表示作者至少在24GB显存、Ampere级CUDA环境中验证过,不代表显卡型号越新就一定能运行。应先看显存峰值,再检查CUDA兼容性,最后用最小输入实跑。
论文复现现场19 天前
cuda·多模态大模型·显存优化·rtx3090·minicpm-o
MiniCPM-o 4.5 需要多少显存?RTX 3090 24GB 的 BF16、AWQ、GGUF 部署边界与验收方法先给结论:RTX 3090 的 24GB 显存不能按官方口径稳定承载 MiniCPM-o 4.5 完整 PyTorch 全双工 Web Demo;它更适合 AWQ、GGUF,或关闭部分模态后的单轮验证。若目标是原精度、完整音视频全双工服务,应按官方“至少 28GB 显存”要求选卡。
论文复现现场20 天前
模型量化·vllm·大模型推理·awq·算家云·rtx3090
RTX 3090 如何跑 13B 级大模型推理?4-bit AWQ、vLLM 部署与并发调优实战更新时间:2026 年 9 月 20 日 适用环境:Linux、NVIDIA RTX 3090 24GB、Docker、CUDA 驱动
我是有底线的