“代码跑着跑着,就变快了?”——揭秘Java性能幕后引擎:即时编译器

HotSpot虚拟机内部集成了两个即时编译器,分别被称为C1编译器(Client Compiler/ Quick Complier)和C2编译器(Server Compiler)。自Java 9起,-server模式(即启用C2编译器或分层编译)是默认选项,-client选项通常会被忽略。

C1编译器的启动速度较快,主要关注局部的、简单且可靠的优化策略,例如方法内联、常量传播、死代码消除、冗余消除等。相比之下,C2编译器则专注于全局优化,这些优化通常需要更长的编译时间,甚至会根据性能监控(profiling)数据进行一些激进但不一定可靠的优化,例如更复杂的内联决策、逃逸分析、循环优化、向量化等。C2编译器的性能通常比C1编译器高出30%以上,因此更适合长时间运行的后台程序。

从Java 7开始引入,并在Java 8中成为默认策略(当C2可用时),分层编译结合了C1的快速启动和C2的高峰值性能。它将编译过程划分为5个层次。

1)第0层:解释执行收集性能监控数据,主要是方法调用计数器和循环回边计数器。

2)第1层:C1编译器(Simple C1)不进行Profiling,快速编译为本地代码。

3)第2层:C1编译器(Limited Profile C1)进行少量的Profiling(调用次数、循环次数)。

4)第3层:C1编译器(Full Profile C1)进行全面的Profiling,收集包括分支频率、类型信息等更详细的数据,为C2做准备。

5)第4层:C2编译器利用C1收集到的详尽Profiling数据,进行最大程度的优化编译。

性能监控是在程序执行过程中收集反映代码执行状态的数据,如方法调用频率、循环执行频率、分支跳转信息、类型剖面等。这些数据是即时编译器(尤其是C2)做出明智优化决策的依据。性能监控的精度越高,其带来的额外性能开销就越大。最基本的是方法调用计数器和循环回边计数器,用于识别热点代码并触发即时编译。编译阈值是动态的,并且受分层编译策略的影响,但传统的Client模式下默认阈值约为1500次调用,Server模式下约为10000次调用(这些具体数字可能随JDK版本和模式变化)。

方法调用计数器

方法调用计数器(Invocation counter),顾名思义,这个计数器就是用于统计方法被调用的次数。需注意该计数器统计的非绝对次数,而是衡量一个相对的执行频率。当超过一定的时间限度,如果方法的调用次数仍不足以触发即时编译,那这个方法的调用计数会被减少一半,这个过程称为热度的衰减 (Counter decay),而这段时间就称为此方法统计的半衰周期 (Counter half life time)。

java 复制代码
@RequestMapping(value = "/input")
public CommonResponse input(@RequestBody InputRequest request) {
     // 如果 input 方法本身成为热点,它会被JIT编译。
     // JIT编译器可能会决定将 doSomething 方法内联到 input 方法中,
     // 如果 doSomething 方法符合内联条件(如方法体小、调用频繁等)。
     return CommonResponse.ok(doSomething(request));
}
    
public void doSomething(InputRequest request) {
     // 如果 doSomething 方法自身被频繁调用(无论是直接调用还是通过 input 间接调用),
     // 并且达到了编译阈值,它也会被JIT编译成本地机器码。
     // ... 复杂的业务逻辑 ...
}

循环回边计数器

循环回边计数器(Loop backEdge counter)会对程序中的循环进行计数。每当程序执行一次循环的回边(即从循环的末尾跳回到循环的开始),循环回边计数器的值就会增加。

java 复制代码
void loop() {
    int sum = 0;
    for (int i = 0; i < 10; i++) {
        sum += i;
    }
}

上面这段代码经过编译生成下面的字节码:

java 复制代码
  public void loop();
    Code:
       0: iconst_0
       1: istore_1
       2: iconst_0
       3: istore_2
       4: iload_2
       5: bipush        10
       7: if_icmpge     20
      10: iload_1
      11: iload_2
      12: iadd
      13: istore_1
      14: iinc          2, 1
      17: goto          4
      20: return

在上述字节码中,循环回边计数器被存储在第7行的if_icmpge指令中。if_icmpge指令用于接收两个操作数用于比较计算,以决定循环体跳转的位置。在解释执行时,每当运行一次该指令,该方法的循环回边计数器加1。

循环回边计数器触发的优化编译技术叫作栈上替换 (On stack replacement,OSR) 。假设有一个方法只被调用一次,但却包含超过一万次以上循环迭代次数,这个循环方法无法以方法调用计数来统计。而栈上替换技术解决了这个问题。当编译器检测到一个循环已经迭代次数达到阈值时,动态地将这个循环(以及包含它的方法的一部分)编译成本地机器码,并让当前正在执行的线程"切换"到新编译的代码上继续执行循环,而无需等待方法调用结束。

java 复制代码
void largeLoop() {
   // 假设此方法只被调用一次
    long sum = 0;
    // 1. 循环回边计数器通过迭代统计,即使方法调用次数少,此循环也会变热。
    // 2. 当达到OSR阈值,JIT会将循环部分编译成本地机器码。
    // 3. 正在执行的线程会从解释执行(或C1代码)的循环"栈上替换"到新编译的C2代码。
    for (int i = 0; i < 100000000; i++) { // 非常大的循环次数
        sum += i;
        // ... 其他操作 ...
    }
    System.out.println(sum);
}

未完待续

很高兴与你相遇!如果你喜欢本文内容,记得关注哦!

相关推荐
Resean02234 分钟前
SpringMVC 6+源码分析(三)DispatcherServlet实例化流程 2--(url 与contrller类如何进行映射)
java·spring boot·spring
菜菜的后端私房菜6 分钟前
Protocol Buffers!高效数据通信协议
java·后端·protobuf
w_t_y_y12 分钟前
prometheus应用Counter&&Gauge
java
木子欢儿19 分钟前
在 Debian 12 上安装 Xfce 桌面
java·linux·运维·服务器·debian
Vdeilae21 分钟前
debian 时间同步 设置ntp服务端 客户端
java·服务器·debian
Seven9736 分钟前
剑指offer-18、⼆叉树的镜像
java
MacroZheng1 小时前
狂揽9.3k star!号称终端版Postman项目,太炫酷了!
java·spring boot·后端
XingYuyu_Coder2 小时前
(JAVA)自建应用调用企业微信API接口,设置企业可信IP
java·tcp/ip·企业微信
慕y2742 小时前
Java学习第一百零一部分——网关(Gateway)
java·网络·学习
Java&Develop2 小时前
Java中给List<T> 对象集合去重
java·开发语言