记录 | CUDA编程中用constexpr替代__host__&__device__

比如用 __host__ & __device__ 的情况如下:

#include <cstdio>
#include <cuda_runtime.h>

__host__ __device__ void say_hello(){
    printf("Hello, world!\n");
}

__global__ void kernel(){
    say_hello();
}

int main(){
    kernel<<<1, 1>>>();
    cudaDeviceSynchronize();
    say_hello();
    return 0;
}
}

则可以用 constexpr 来替代 __host__ __device,替代后的代码如下:

#include <cstdio>
#include <cuda_runtime.h>

constexpr const char* cuthead(const char* p){
    return p+1;
}

__global__ void kernel(){
    printf(cuthead("Gello, world!\n"));
}

int main(){
    kernel<<<1, 1>>>();
    cudaDeviceSynchronize();
    printf(cuthead("Cello, world!\n"));
    return 0;
}

● 这样相当于把 constexpr 函数自动变成修饰符 __host__ __device__ ,从而两边都可以调用;

● 因为 constexpr 通常都是一些可以内联的函数,数学计算表达式之类的,一个个加上太累了,所以产生了这个需求;

● 不过必须指定 --expt-relaxed-constexpr 这个选项才能用这个特性,咱们可以用 CMake 的生成器表达式来实现只对 .cu 文件开启此选项 (不然给到 gcc 就出错了);

# 这个.cu用nvcc编译就是这样的 
nvcc demo.cu --expt-relaxed-constexpr

● constexpr里面没办法调用 printf,也不能用 __syncthreads 之类的 GPU 特有的函数,因此也不能完全替代 __host____device__

相关推荐
码上飞扬4 天前
深入浅出:CUDA是什么,如何利用它进行高效并行计算
cuda
qxyywy4 天前
CUDA 安装 一直卡在Installing Nsight Visual Studio Edition
ide·visual studio·cuda
Eloudy11 天前
ubuntu 22.04 cuda12.x 上 cutensor 1.6.2 版本环境搭建
量子计算·cuda·量子力学
软件开发和挖掘机技术22 天前
在深度Linux (Deepin) 20中安装Nvidia驱动
linux·运维·服务器·cuda·deepin
Channing Lewis22 天前
电脑要使用cuda需要进行什么配置
电脑·cuda
laugh123211 个月前
性能飞跃!TensorRT-YOLO 6.0 全面升级解析与实战指南
环境配置·tensorrt·cuda·c/c++
蛔虫在他乡1 个月前
tensorflow,cuda,cudnn,pycharm安装踩坑过程记录
pycharm·tensorflow·cuda·cudnn
DWQY1 个月前
ubuntu22.04降级安装CUDA11.3
cuda
Little_Yuu1 个月前
windows11(或centos7)安装nvidia显卡驱动、CUDA、cuDNN
cuda·cudnn
engchina2 个月前
CUTLASS:高性能 CUDA 线性代数模板库详解
人工智能·线性代数·cuda·cutlass