CUDA C 编程入门学习记录

这是本人21年读书时学习CUDA基础知识保留的一些笔记,学习时的内容出处和图片来源不记得了,仅作为个人记录!

CUDA编程

host:主机端CPU

device:设备端GPU

kernels:核函数

  • global:定义一个kernel函数
    • 入口函数,CPU调用,GPU执行,返回void
  • 线程层次
    grid-> block -> threads : 找到一个线程:需要每个线程的编号(threadIdx)和对应的block
  • <<<1个block,block的索引是2维的>>>
  • int i 获取索引的下标
  • 块索引 blockIdx
  • 块维度 blockDim
  • 上面的代码可以只用了一个block,可使用多个block
  1. 线程的全局位置更改(int i)
  2. 定义每个线程块空间大小(16,16)
  3. 需要多少个block(N/16,N/16)
  • 例如N=32
  • 每块16×16个线程(threadIdx([0,15],[0,15]))
  • Grid有2×2个线程块Block(blockIdx([0,1],[0,1]) blockDim = 16)
  • 那么int i = blockIdx.x * blockDim.x + threadIdx.x
  • 线程同步:
  • Host与device数据传输
    • global memory 全局存储器
    • Constant memory 常量存储器
    • cudaMalloc() global memory分配
    • cudaFree()释放空间
  • 拷贝cudaMmcpy(目的地址,原地址,size, cudaMemcpyHostToDevice)
例如矩阵相乘,每个元素互不影响
  • cpu实现:

  • gpu实现:

  1. 对输入和输出数据内存进行管理,分配内存
  2. 并行处理
  3. 拷贝回cpu,释放内存
  4. 伪代码
  5. cuda核函数实现:
  6. 调用
线程同步

每一个块block可以使用__syncthreads()等待上面程序所有线程都执行完成调用下面方法。

参考

图片来源

很老的一个视频但是入门确实是够了,推荐~

相关推荐
时光话3 分钟前
Lua 第14部分 数据结构
开发语言·数据结构·lua
怀念无所不能的你16 分钟前
acwing背包问题求方案数
学习·算法·动态规划·dp
晚上不睡觉的周某人17 分钟前
Java应用7(类集)
java·开发语言·windows
码银20 分钟前
Java Stream流
java·开发语言
LVerrrr35 分钟前
Missashe考研日记-day29
学习·考研
灏瀚星空39 分钟前
从基础到实战的量化交易全流程学习:1.3 数学与统计学基础——线性代数与矩阵运算 | 矩阵基础
笔记·python·学习·线性代数·数学建模·金融·矩阵
Kiri霧1 小时前
Java 多线程基础:Thread 类详解
java·开发语言
冼紫菜1 小时前
探索微服务入口:Spring Cloud Gateway 实战指南
java·开发语言·后端·spring cloud·微服务·gateway
qq_162911591 小时前
tigase源码学习杂记-IO处理的线程模型
java·学习·源码·xmpp·tigase·多线程io模型
viperrrrrrrrrr71 小时前
大数据学习(115)-hive与impala
大数据·hive·学习·impala