cuda

并行编程实战—CUDA中的Tile编程之八优化提示Optimization Hints，优化提示。这是CUDA Tile的一种元数据。用来附加到源代码结构中，包括Tile的内核函数、加载及存储调用点等等（前面都分析过）。其目的在于指导编译器的代码生成。其实也很好理解，语言中的源数据多是和编译器高度相关，其实就是编译器下放到代码中的探针。这种优化提示对于程度来说是透明的，它不会改变内核编译和运行的结果，可以放心的自由增加、减少或改变，不会对代码产生影响。编译器也可能对这种优化提示直接忽略，不作任何反应。这有点类似于c++中的inline关键字。优化提示

本地化文档

cutile-rs-book-l10n🎉 cutile-rs-book-l10n 已发布！🚀 预览翻译：https://projects.localizethedocs.org/cutile-rs-book-l10n

Web3&Basketball

TorchTPU 迁移实战：3 个 CUDA 卡点我把手上一个典型的 GPU 训练工程搬到 TorchTPU 上试了一遍，「换芯片要重写几个月代码」这句话，在 2026 年 10 月 20 日之后需要打个折。那天 PyTorch Conference 上，Google 与 Meta 的 PyTorch 团队一起把 TorchTPU 开源了：TPU 成为一个原生 PyTorch 设备，理论上你只需要把 .to("cuda") 改成 .to("tpu")。我把手上一个典型的 GPU 训练工程拿去试了一遍，改一行是真的，跑起来之后才发现问题都在那一行之外。这篇

Windows 下 YOLO26 的 TensorRT C++ 部署摘要：本文介绍如何在 Windows 下使用 TensorRT 10.16 以 C++ 部署 YOLO26 目标检测模型。内容涵盖环境准备（VS2022、CMake、CUDA 12.9、OpenCV 4.8.1、TensorRT）、工程编译与验证、模型导出（FP32/FP16/INT8）与 engine 序列化，以及命令行推理和部署自训练模型的完整流程。实测 C++ 实现推理单帧约 1.4 ms，相比 ultralytics Python 推理提升约 14 倍。

第五章：其余页面与全篇收束 ⭐教你读懂 Nsight Compute 报告系列合集⭐Summary给出整体表现，Details把问题展开到硬件资源和具体指标，Source再把这些线索接回源码与指令。沿着报告的标签栏往后，还剩Context、Comments、Raw、Session四个页面。这一章按页面顺序把它们读完，再回到reduce_ill的四个病态，把整套读报告的过程串起来。

第四章：Source 细读 ⭐教你读懂 Nsight Compute 报告系列合集⭐第二、三章把Details页读完了。我们已经知道reduce_ill的全局读不合并、共享内存读存在冲突，归并过程中还有大量同步和线程陪跑。接下来切到Source页，把这些线索接回代码，看看问题分别落在哪一行源码、哪一条指令上。

国产 AI 卡推理引擎工程对标调研（C++ CUDA + TensorRT → 国产栈）调研日期：2026-10-15　|　视角：C++ CUDA + TensorRT，含自定义 TensorRT Plugin 与自定义预处理/后处理 CUDA Kernel，YOLOv5/v8 在线检测，多路视频 + 大 batch

智码看视界

深度学习:环境搭建PyTorch vs TensorFlow 选型"我的代码在别人机器上能跑，在我这儿就报 CUDA 错"——这是几乎所有深度学习初学者踩过的坑。框架选型和环境配置看似是进入深度学习的"第一步"，却往往消耗掉新手最多的耐心。本文不堆砌参数，而是从开发体验和落地链路两条主线，把 PyTorch 与 TensorFlow 的取舍讲清楚，并附上一份可直接照抄的 CUDA 踩坑清单。

工作小记-pytorch的算子优化: 转gpu核函数 python调c记录一下关于torch的算子优化。主要是根据torch的torch.utils.cpp_extension 去把一些torch上的python变换放到gpu中去并行执行，写好对应的测试用例保证c和python的结果一致。

第三章：Details 剩余数据补读 ⭐教你读懂 Nsight Compute 报告系列合集⭐第二章从 Details 页里挑出了三个重点 section，这一章沿着 Details 页往下走，把剩下的 11 个 section 按页面顺序补齐，依次是 PM Sampling、Compute Workload Analysis、Scheduler Statistics、Warp State Statistics、Instruction Statistics、NVLink Topology、NVLink Tables、NUMA Affinity、Launch Statistics、Occupancy

Starry-sky(jing)

onnxruntime 安装后 GPU 没加速？3 条命令确认它跑在 CPU 还是 GPUonnxruntime 安装完，pip install onnxruntime 没报错、代码也出结果了，于是你以为 GPU 在干活。

论文复现现场

LAMMPS 用 RTX 5090 能跑多大？32GB 显存、CUDA 编译与规模验证RTX 5090 可以作为 LAMMPS 单卡模拟的候选，但需要势函数支持 GPU 加速、编译环境匹配，并通过精度验证。32GB 显存不能直接换算成固定原子数，实际容量应通过同一模型的规模递增测试确定。

从 CUDA 到昇腾：一张对照表拆解 DeepSeek 最新开源组件（TileLang / DeepGEMM / DeepEP / TileKernels）2026 年 9 月 30 日，DeepSeek 公布了一组面向华为昇腾平台的开源组件；相关解读随后于 10 月 4 日在掘金发布，给出了四组明确的对应关系：TileLang Ascend 后端对应 TileLang CUDA 后端、DeepGEMM-Ascend 对应 DeepGEMM CUDA 版本、DeepEP-Ascend 对应 DeepEP CUDA 版本、TileKernels Ascend 后端对应 TileKernels NVIDIA 后端 [1]。这组发布真正值得注意的地方，不是"又多了

论文复现现场

RTX 3090 24GB 适合科研吗？单卡论文复现、PyTorch 显存检查与 OOM 排错RTX 3090 24GB 适合不少单卡深度学习科研实验，包括图像分类、二维分割、小模型微调和部分量化大模型实验。是否够用，要看训练方式、输入尺寸和批大小；能启动程序，也不等于能复现论文指标。

论文复现现场

RTX 5090 32GB 适合科研计算吗？单卡训练、推理、论文复现与 OOM 判断方法RTX 5090 的 32GB 显存可作为许多单卡论文复现、7B/8B 推理与 QLoRA、常见视觉训练的候选；全参数大模型训练、FP64 密集计算和超大样本不应只看显存下结论。

论文复现现场

论文复现看到“RTX 3090 or higher”：显存、CUDA、batch size 与 OOM 怎么判断？“RTX 3090 or higher”通常表示作者至少在24GB显存、Ampere级CUDA环境中验证过，不代表显卡型号越新就一定能运行。应先看显存峰值，再检查CUDA兼容性，最后用最小输入实跑。

第二章：Details 重点数据细读 ⭐教你读懂 Nsight Compute 报告系列合集⭐本章正式进入 Details 页，这可是全部指标的大合集，被切成 14 个 section，从上往下排开，信息量比 Summary 大一个量级，本章着重讲透其中最值得细读的三个重点 section，剩下的 section 留到下一章按页面顺序补齐。

论文复现现场

MiniCPM-o 4.5 需要多少显存？RTX 3090 24GB 的 BF16、AWQ、GGUF 部署边界与验收方法先给结论：RTX 3090 的 24GB 显存不能按官方口径稳定承载 MiniCPM-o 4.5 完整 PyTorch 全双工 Web Demo；它更适合 AWQ、GGUF，或关闭部分模态后的单轮验证。若目标是原精度、完整音视频全双工服务，应按官方“至少 28GB 显存”要求选卡。

第8板块·第2节：统一内存的高级特性与性能调优学完本节你将能够：统一内存的核心机制是按需迁移：当主机或设备访问某个统一内存地址时，如果数据不在访问方，硬件会触发页错误，然后自动将数据从另一端迁移过来。