CPU性能优化--性能瓶颈

6.1.3 确定性能瓶颈

假设我们有一个非常小的可以跑8.5 s的基准测试程序,

TMAM

获得

首先,执行程序并采集指定的指标 检测应用程序属于哪个类别。下面是基准测试程序的第一层指标:

~/pmu-tools/toplev.py --core s0-c0 -li -v --no-desc taskset -c 0 ./a.out

S0-C0 Frontend_Bound: 13.81%

S0-C0 Bad_Speculation

S0-C0 backend_bound 53.43%

S0-C0 Retiring:32.53%

  1. S0-C0 Frontend_Bound: 13.81%:这个指标表示CPU的前端(Frontend)部分存在瓶颈,即指令获取和解码阶段不足以喂饱后端执行单元的情况。具体来说,这意味着CPU在这段时间内有一部分比例的周期没有有效地提供足够的指令给后端处理,可能是因为指令缓存未命中、分支预测错误等原因导致的。
  2. S0-C0 Bad_Speculation::这个指标涉及到错误的推测执行,即CPU进行了一些最终不会被执行的指令(uOps),这些指令最终会被丢弃。这通常发生在分支预测错误时,导致CPU执行了一条错误路径上的指令,当实际的分支目标确定后,这些错误路径上的指令就需要被清除,这种清除操作会浪费CPU资源。
  3. S0-C0 Backend_Bound: 53.43%:这个指标表示CPU的后端(Backend)部分存在瓶颈,即执行单元繁忙,等待指令执行完成。这可能是因为内存访问延迟(如缓存未命中)或者执行单元资源竞争导致的。
  4. S0-C0 Retiring: 32.53%:这个指标表示CPU成功执行并退休(Retiring)的指令比例,即这些指令正常完成并可以被后续指令使用。理想情况下,我们希望这个比例尽可能高,因为这表示CPU在高效地执行有用的工作

进程表绑定到了CPU0, ,并且toplev的输出也被限定在这个核上(--core S0-C0)。查看输出,可以发现应用程序的性能时呗CPU后端限定了。现在我们先不去分析它。

往下一层看看

~/pmu-tools/toplev.py --core S0-C0 -l2 -v --no-desc taskset -c 0 ./a.out

//level 1

S0-C0 Frontend_Bound: 13.81%

S0-C0 Bad_Speculation

S0-C0 backend_bound 53.43%

S0-C0 Retiring:32.53%

//level 2

S0-C0 Frontend_Bound.FE_latency 12.11%

S0-C0 Frontend_Bound.FE_Bandwidth 1.84%

S0-C0 Bad_Speculation.Branch_mispred 0.22%

S0-C0 Bad_Speculation_Machine.Clear 0.01%

S0-C0 Backend_Bound.Memory_Bound 44.59%

S0-C0 Backend_Bound.Core_Bound 8.6%

S0-C0 Retiring.Base 24.83%

S0-C0 Retring_Microcode_Sequencer 7.66%

我们发现基准测试程序的性能被内存访问限定了,几乎有一半的CPU运行资源都被浪费在了等待内存请求完成上,我们继续下钻一层。

~/pmu-tools/toplev.py --core S0-C0 -l3 -v --no-desc taskset -c 0 ./a.out

S0-C0 BE_Bound.Mem_Bound.L1_Bound 4.39%

S0-C0 BE_Bound.Mem_Bound.L2_Bound 2.42%

S0-C0 BE_Bound.Mem_Bound.L3_Bound 5.75%

S0-C0 BE_Bound.Mem_Bound.DRAM_Bound 47.11%

S0-C0 BE_Bound.Mem_Bound.Store_Bound 0.69%

S0-C0 BE_Bound.Core_Bound.Divider_Bound 6.56% 除法运算

S0-C0 BE_Bound.Core_Bound.Porte_Util 11.31%

我们发现性能瓶颈在DRAM_Bound,这告诉我们很多内存访问在所有层级的缓存中都没有命中,并且最终走到了主存。如果采集了基准测试程序的全部L3缓存未命中的绝对数量,我们也可以通过它来确认,对于Skylake CPU架构,DRAM_Bound指标时通过CYCLE_ACTIVITY.STALLS_L3_MISS性能事件统计的

我们可以通过下面代码采集

perf stat -e cycle.cycle_activity.stalls_l3_miss -- ./a.out

相关推荐
DemonAvenger39 分钟前
MySQL内存优化:缓冲池与查询缓存调优实战指南
数据库·mysql·性能优化
前端小万1 小时前
一次紧急的现场性能问题排查
前端·性能优化
老马啸西风7 小时前
v0.29.2 敏感词性能优化之基本类型拆箱、装箱的进一步优化的尝试
性能优化·开源·nlp·github·敏感词
Jerry&Grj14 小时前
SpringBoot埋点功能技术实现方案深度解析:架构设计、性能优化与扩展性实践
java·微服务·性能优化·springboot·架构设计·埋点技术
大咖分享课14 小时前
架构性能优化三板斧:从10秒响应到毫秒级的演进之路
性能优化·架构
得物技术20 小时前
前端日志回捞系统的性能优化实践|得物技术
前端·javascript·性能优化
cpsvps_net21 小时前
代理连接性能优化:提升网络效率的关键技术与实践
网络·性能优化
老马啸西风1 天前
v0.29.1 敏感词性能优化之内部类+迭代器内部类
性能优化·开源·nlp·github·敏感词
前端世界1 天前
HarmonyOS 数据处理性能优化:算法 + 异步 + 分布式实战
算法·性能优化·harmonyos
孤独的人1 天前
WordPress 性能优化:从插件到 CDN 的全方位缓存设置指南
spring·缓存·性能优化