CUDA C++编程指南(7.31&32&33&34)——C++语言扩展之性能分析计数器函数和断言、陷阱、断点函数

7.31. 性能分析计数器函数

每个多处理器都配备了一组16个硬件计数器,应用程序可以通过调用__prof_trigger()函数,用一条指令来递增这些计数器。

复制代码
void __prof_trigger(int counter);

每个warp将索引为counter的每多处理器硬件计数器递增1。计数器8至15为保留值,应用程序不应使用。

计数器0、1、...、7的值可以通过nvprof工具使用nvprof --events prof_trigger_0x命令获取,其中x取值为0、1、...、7。所有计数器在每次内核启动前都会重置(请注意,在收集计数器数据时,内核启动是同步进行的)。

7.32. 断言

断言功能仅支持计算能力2.x及更高版本的设备。

复制代码
void assert(int expression);

如果expression等于零,则停止内核执行。如果程序在调试器中运行,这将触发断点,调试器可用于检查设备的当前状态。否则,对于expression等于零的每个线程,在通过cudaDeviceSynchronize()cudaStreamSynchronize()cudaEventSynchronize()与主机同步后,会向stderr打印一条消息。该消息的格式如下:

复制代码
<filename>:<line number>:<function>:
block: [blockId.x,blockId.x,blockIdx.z],
thread: [threadIdx.x,threadIdx.y,threadIdx.z]
Assertion `<expression>` failed.

针对同一设备的任何后续主机端同步调用都将返回cudaErrorAssert。在调用cudaDeviceReset()重新初始化设备之前,无法向该设备发送更多命令。

如果expression不为零,则内核执行不受影响。

例如,以下程序来自源文件 test.cu

复制代码
#include <assert.h>

__global__ void testAssert(void)
{
    int is_one = 1;
    int should_be_one = 0;

    // This will have no effect
    assert(is_one);

    // This will halt kernel execution
    assert(should_be_one);
}

int main(int argc, char* argv[])
{
    testAssert<<<1,1>>>();
    cudaDeviceSynchronize();

    return 0;
}

将输出:

复制代码
test.cu:19: void testAssert(): block: [0,0,0], thread: [0,0,0] Assertion `should_be_one` failed.

断言(Assertions)主要用于调试目的。它们可能会影响性能,因此建议在生产代码中禁用断言。通过在包含assert.h头文件之前定义NDEBUG预处理器宏,可以在编译时禁用断言。需要注意的是,expression不应是具有副作用的表达式(例如类似(++i > 0)的表达式),否则禁用断言会影响代码的功能。

7.33. 陷阱函数

可以通过从任意设备线程调用__trap()函数来启动陷阱操作。

复制代码
void __trap();

内核执行被中止,并在主机程序中引发中断。

7.34. 断点函数

可以通过从任意设备线程调用__brkpt()函数来暂停内核函数的执行。

复制代码
void __brkpt();
相关推荐
程序员老猫21 分钟前
当 AI 能写 80% 的代码时,后端工程师的核心价值还剩什么?
人工智能
想会飞的蒲公英23 分钟前
计算机怎样读取中文文本:编码、清洗与标准化
人工智能·python·自然语言处理
同勉共进27 分钟前
记一例 vibe coding + gcc bug 导致的线程池死锁问题
c++·线程池·gcc·死锁·vibe coding
我叫洋洋30 分钟前
C ++ [ hello world ]
c语言·c++·算法
CIO_Alliance35 分钟前
AI+iPaaS解决方案深度整合:让跨系统业务流程自动化一步到位
人工智能·ipaas·系统集成·ai+ipaas·企业cio联盟·企业级ai化转型
苏州IT威翰德36 分钟前
算力资产“续命”专家:苏州威翰德科技赋能NVIDIA高端AI芯片芯片级维修
大数据·人工智能
天上路人1 小时前
A59P双波束语音模块:神经网络降噪在远场拾音中的工程实现分析
人工智能·深度学习·神经网络·ai降噪·ai语音·麦克风·回音消除
冬奇Lab1 小时前
AI 评测系列(03):LLM-as-Judge——让 LLM 评价 LLM 的正确姿势
人工智能·llm
Miao121311 小时前
某海外住宿平台如何在大规模场景下实现指标一致性:Minerva 指标平台实践
大数据·数据库·人工智能
冬奇Lab1 小时前
每日一个开源项目(第164篇):毕昇(BISHENG)- 面向企业的开源 LLM DevOps 平台
人工智能·开源·agent