cuda

XLYcmy3 天前
论文阅读·论文笔记·token·cuda·asr·论文分享·tokenizer
ASR 识别任务:两篇论文阅读分析与系统方案技术报告 当前报告不足论文阅读 · 技术分析 · 独立评审当前报告不足报告证据缺口、内部一致性、实验归因与落地验收评审评审对象 《ASR 识别任务:两篇论文阅读分析与系统方案技术报告》
梦想不只是梦与想13 天前
人工智能·pytorch·python·深度学习·机器学习·cuda
PyTorch、CPU、GPU、CUDA给 Python 安装 PyTorch的时候,对于刚接触 AI 开发的人来说,里面的专业名词(Torch、CPU、GPU、CUDA、源)确实容易让人一头雾水。把这些名词拆开,结合一生活中的例子来理清它们的关系。
Blockbuater_drug13 天前
linux·conda·cuda·gpu驱动·pythonpath·openmm安装
OpenMM分子动力学模拟02 安装:Linux:conda 一条命令装通 GPU 加速的分子模拟环境摘要:一条 conda 命令装好 OpenMM 并验证四平台。本章按官方安装路径复刻加本机实测踩坑——镜像超时、PYTHONPATH 污染、CUDA 版本与驱动匹配、环境 CUDA 漂移,并给出装完后验证 GPU 真被用上的方法。 关键字:OpenMM安装、conda、Linux、CUDA、GPU驱动、testInstallation、PYTHONPATH、环境配置
椒颜皮皮虾྅15 天前
开发语言·学习·c#·.net·cuda
让文档不止于文字:DeploySharp + PP-Structure,打通版面分析与表格重建DeploySharp 是一个面向 C#/.NET 开发者的开源模型部署框架,由「椒颜皮皮虾」开发,项目源码遵循 Apache License 2.0。项目封装了 ONNX Runtime、OpenVINO、TensorRT、OpenCV DNN 等推理引擎,提供模型加载、图像前处理、推理和结果后处理接口,方便大家在桌面软件、工业视觉和文档应用中部署模型。
椒颜皮皮虾྅16 天前
linux·运维·开发语言·人工智能·windows·计算机视觉·cuda
模型部署不再卡在环境上:DeploySharp 四大推理引擎与 Windows/Linux 离线交付实战DeploySharp 是一个面向 C#/.NET 开发者的开源模型部署框架,由「椒颜皮皮虾」开发,项目源码遵循 Apache License 2.0。它基于 ONNX Runtime、OpenVINO、TensorRT、OpenCV DNN 等推理引擎,提供模型加载、图像前处理、推理执行和结果后处理接口,方便大家在桌面软件、工业视觉和文档应用中接入模型。
椒颜皮皮虾྅16 天前
开发语言·人工智能·深度学习·学习·c#·ocr·cuda
让 C# 读懂整张图:DeploySharp 驱动 PaddleOCR v4/v5/v6,打通 OCR 全流程DeploySharp 是一个面向 C#/.NET 开发者的开源模型部署框架,由「椒颜皮皮虾」开发,项目源码遵循 Apache License 2.0。它基于 ONNX Runtime、OpenVINO、TensorRT、OpenCV DNN 等推理引擎,提供模型加载、图像前处理、推理执行和结果后处理接口,方便大家把模型接入桌面软件、工业视觉和文档应用。
fpcc23 天前
cuda·1024程序员节·并行编程
并行编程实战—CUDA中的Tile编程之八优化提示Optimization Hints,优化提示。这是CUDA Tile的一种元数据。用来附加到源代码结构中,包括Tile的内核函数、加载及存储调用点等等(前面都分析过)。其目的在于指导编译器的代码生成。其实也很好理解,语言中的源数据多是和编译器高度相关,其实就是编译器下放到代码中的探针。 这种优化提示对于程度来说是透明的,它不会改变内核编译和运行的结果,可以放心的自由增加、减少或改变,不会对代码产生影响。编译器也可能对这种优化提示直接忽略,不作任何反应。这有点类似于c++中的inline关键字。 优化提示
本地化文档24 天前
rust·gpu·nvidia·cuda·sphinx·crowdin
cutile-rs-book-l10n🎉 cutile-rs-book-l10n 已发布!🚀 预览翻译:https://projects.localizethedocs.org/cutile-rs-book-l10n
Web3&Basketball25 天前
pytorch·性能调优·cuda·tpu·模型迁移·torchtpu
TorchTPU 迁移实战:3 个 CUDA 卡点我把手上一个典型的 GPU 训练工程搬到 TorchTPU 上试了一遍,「换芯片要重写几个月代码」这句话,在 2026 年 10 月 20 日之后需要打个折。那天 PyTorch Conference 上,Google 与 Meta 的 PyTorch 团队一起把 TorchTPU 开源了:TPU 成为一个原生 PyTorch 设备,理论上你只需要把 .to("cuda") 改成 .to("tpu")。我把手上一个典型的 GPU 训练工程拿去试了一遍,改一行是真的,跑起来之后才发现问题都在那一行之外。这篇
燃烧的枫1 个月前
人工智能·pytorch·windows·计算机视觉·tensorrt·cuda·yolo26
Windows 下 YOLO26 的 TensorRT C++ 部署摘要:本文介绍如何在 Windows 下使用 TensorRT 10.16 以 C++ 部署 YOLO26 目标检测模型。内容涵盖环境准备(VS2022、CMake、CUDA 12.9、OpenCV 4.8.1、TensorRT)、工程编译与验证、模型导出(FP32/FP16/INT8)与 engine 序列化,以及命令行推理和部署自训练模型的完整流程。实测 C++ 实现推理单帧约 1.4 ms,相比 ultralytics Python 推理提升约 14 倍。
_nibel1 个月前
cuda·ncu·nsight compute
第五章:其余页面与全篇收束 ⭐教你读懂 Nsight Compute 报告 系列合集⭐Summary给出整体表现,Details把问题展开到硬件资源和具体指标,Source再把这些线索接回源码与指令。沿着报告的标签栏往后,还剩Context、Comments、Raw、Session四个页面。这一章按页面顺序把它们读完,再回到reduce_ill的四个病态,把整套读报告的过程串起来。
_nibel1 个月前
cuda·ncu·nsight compute
第四章:Source 细读 ⭐教你读懂 Nsight Compute 报告 系列合集⭐第二、三章把Details页读完了。我们已经知道reduce_ill的全局读不合并、共享内存读存在冲突,归并过程中还有大量同步和线程陪跑。接下来切到Source页,把这些线索接回代码,看看问题分别落在哪一行源码、哪一条指令上。
fleaxin1 个月前
gpu·信创·cuda
国产 AI 卡推理引擎工程对标调研(C++ CUDA + TensorRT → 国产栈)调研日期:2026-10-15 | 视角:C++ CUDA + TensorRT,含自定义 TensorRT Plugin 与自定义预处理/后处理 CUDA Kernel,YOLOv5/v8 在线检测,多路视频 + 大 batch
智码看视界1 个月前
pytorch·深度学习·tensorflow·gpu·环境搭建·cuda·框架选型
深度学习:环境搭建PyTorch vs TensorFlow 选型"我的代码在别人机器上能跑,在我这儿就报 CUDA 错"——这是几乎所有深度学习初学者踩过的坑。框架选型和环境配置看似是进入深度学习的"第一步",却往往消耗掉新手最多的耐心。本文不堆砌参数,而是从开发体验和落地链路两条主线,把 PyTorch 与 TensorFlow 的取舍讲清楚,并附上一份可直接照抄的 CUDA 踩坑清单。
Zip-List1 个月前
c语言·c++·pytorch·python·cuda
工作小记-pytorch的算子优化: 转gpu核函数 python调c记录一下关于torch的算子优化。主要是根据torch的torch.utils.cpp_extension 去把一些torch上的python变换放到gpu中去并行执行,写好对应的测试用例保证c和python的结果一致。
_nibel1 个月前
cuda·ncu·nsight compute
第三章:Details 剩余数据补读 ⭐教你读懂 Nsight Compute 报告 系列合集⭐第二章从 Details 页里挑出了三个重点 section,这一章沿着 Details 页往下走,把剩下的 11 个 section 按页面顺序补齐,依次是 PM Sampling、Compute Workload Analysis、Scheduler Statistics、Warp State Statistics、Instruction Statistics、NVLink Topology、NVLink Tables、NUMA Affinity、Launch Statistics、Occupancy
Starry-sky(jing)1 个月前
python·gpu·cuda·onnxruntime·推理加速
onnxruntime 安装后 GPU 没加速?3 条命令确认它跑在 CPU 还是 GPUonnxruntime 安装完,pip install onnxruntime 没报错、代码也出结果了,于是你以为 GPU 在干活。
论文复现现场1 个月前
cuda·分子动力学·lammps·rtx5090
LAMMPS 用 RTX 5090 能跑多大?32GB 显存、CUDA 编译与规模验证RTX 5090 可以作为 LAMMPS 单卡模拟的候选,但需要势函数支持 GPU 加速、编译环境匹配,并通过精度验证。32GB 显存不能直接换算成固定原子数,实际容量应通过同一模型的规模递增测试确定。
EatFan1 个月前
开源·cuda·deepseek·deepgemm·tilelang·华为昇腾
从 CUDA 到昇腾:一张对照表拆解 DeepSeek 最新开源组件(TileLang / DeepGEMM / DeepEP / TileKernels)2026 年 9 月 30 日,DeepSeek 公布了一组面向华为昇腾平台的开源组件;相关解读随后于 10 月 4 日在掘金发布,给出了四组明确的对应关系:TileLang Ascend 后端对应 TileLang CUDA 后端、DeepGEMM-Ascend 对应 DeepGEMM CUDA 版本、DeepEP-Ascend 对应 DeepEP CUDA 版本、TileKernels Ascend 后端对应 TileKernels NVIDIA 后端 [1]。这组发布真正值得注意的地方,不是"又多了