matmul

Briwisdom15 天前
gemm·fft·matmul·conv2d·implicit gemm·winograd
Conv2D 算子实现深入——im2col、Implicit GEMM、Winograd、FFT 代码级拆解副标题： 一个卷积算子，四种实现路线。本文不再停留在概念层面，而是用可运行的代码逐一拆解：直接卷积怎么算、im2col 怎么展开成矩阵、Implicit GEMM 怎么在 kernel 内部在线计算访存地址、Winograd F(2,3) 的三组变换矩阵从哪来、FFT 怎么利用卷积定理做一次频域点乘。训练 vs 推理的差异分析见 博客 #34。
西西弗Sisyphus4 个月前
pytorch·矩阵·matmul·torch.mm·bmm
PyTorch 里的矩阵乘法flyfishtorch.mm / matmul / bmm 区别mm = matrix multiply bmm = batch matrix multiply matmul = matrix multiply
Briwisdom3 年前
cuda编程·matmul·矩阵乘
基于矩阵乘的CUDA编程优化过程背景：网上很多关于矩阵乘的编程优化思路，本着看理论分析万遍，不如实际代码写一遍的想法，大概过一下优化思路。
我是有底线的