为什么触发了系统OOM而没触发JVM OOM

核心原因在于：JVM OOM只关心Java堆，而系统OOM关心的是进程占用的所有物理内存。

一句话回答

系统OOM发生时，Java堆可能远没满，但进程的总物理内存（堆+堆外+线程栈+元空间+JNI等）超过了系统可用内存，内核直接杀进程，JVM根本没机会抛出OOM。

详细原因分析

JVM的内存构成（远不止堆）

复制代码

┌─────────────────────────────────────────────┐
│           Java进程总物理内存(RSS)              │
├─────────────────────────────────────────────┤
│  ┌─────────────────────────────────────┐    │
│  │         Java堆（-Xms/-Xmx控制）       │    │ ← JVM OOM只监控这块
│  │     这部分满了才会抛OOM               │    │
│  └─────────────────────────────────────┘    │
│  ┌─────────────────────────────────────┐    │
│  │         堆外内存（不受-Xmx控制）       │    │
│  │  - DirectByteBuffer                  │    │
│  │  - NIO buffer                        │    │
│  │  - Unsafe.allocateMemory()           │    │
│  └─────────────────────────────────────┘    │
│  ┌─────────────────────────────────────┐    │
│  │         线程栈（-Xss控制）            │    │
│  │  1000线程 × 1MB = 1GB               │    │
│  └─────────────────────────────────────┘    │
│  ┌─────────────────────────────────────┐    │
│  │         元空间（-XX:MaxMetaspaceSize）│    │
│  └─────────────────────────────────────┘    │
│  ┌─────────────────────────────────────┐    │
│  │         JNI代码中的malloc内存         │    │
│  └─────────────────────────────────────┘    │
│  ┌─────────────────────────────────────┐    │
│  │         CodeCache、GC开销等          │    │
│  └─────────────────────────────────────┘    │
└─────────────────────────────────────────────┘

典型场景：堆没满，但系统OOM了

场景	Java堆使用	进程总RSS	结果
堆外内存泄漏	2GB/4GB (50%)	7.5GB/8GB	系统OOM Kill，无JVM OOM
线程爆炸	3GB/4GB (75%)	7.8GB/8GB	系统OOM Kill
正常情况	3GB/4GB (75%)	4.5GB/8GB	正常

具体案例

案例1：堆外内存泄漏

java 复制代码

// 问题代码：不断分配堆外内存，不释放
while(true) {
    ByteBuffer buffer = ByteBuffer.allocateDirect(1024 * 1024); // 1MB堆外
    // 没有调用DirectBuffer.cleaner().clean()
}

过程：

Java堆：一直正常（只是分配了一个ByteBuffer对象，很小）
堆外内存：每分钟泄漏1GB
2小时后：系统物理内存耗尽 → 内核杀Java进程
JVM：根本没发现堆有问题，不会抛OOM

案例2：线程爆炸

java 复制代码

// 问题代码：使用无界线程池
ExecutorService pool = Executors.newCachedThreadPool();
while(true) {
    pool.submit(() -> {
        Thread.sleep(3600000); // 线程不退出
    });
}

过程：

每个线程占用栈内存（默认1MB）
创建5000个线程 = 5GB堆外内存（线程栈）
Java堆：可能只有几百MB
系统内存耗尽 → 杀进程
JVM：堆正常，不抛OOM

案例3：JVM参数设置过大

bash 复制代码

# 物理内存只有8GB的机器
-Xmx7g  # 堆占7GB

过程：

JVM启动时：堆分配7GB虚拟内存
实际物理内存：堆用5GB + 线程栈 + 元空间 + OS = 7.5GB
其他进程（监控、Agent等）需要1GB
总需求超过8GB → 系统OOM Kill

图解：为什么JVM不抛OOM？

复制代码

JVM判断是否抛OOM的逻辑：
        
if (堆剩余空间 < 需要分配的对象大小) {
    // 尝试Full GC
    if (GC后仍不够) {
        抛出 OutOfMemoryError: Java heap space
    }
}
        
问题：堆外内存、线程栈等根本不在这个判断逻辑里！

快速自查命令

bash 复制代码

# 1. 查看Java进程的内存构成
pmap -x <PID> | tail -1
# 输出：total  xxx K

# 2. 查看各部分的详细分布（需要NMT）
jcmd <PID> VM.native_memory summary

# 3. 查看系统内存
free -h
# 如果available充足，但进程被杀了，说明是单个进程内存超限
# 如果available很少，说明整体内存不足

一句话总结

JVM OOM监控的是"堆"这个小水池，系统OOM监控的是整个Java进程这个大水池。堆没满，但线程栈、堆外内存、元空间等其他部分加起来把系统内存耗尽了，内核就会直接杀进程，JVM根本来不及反应。

预防方案

bash 复制代码

# 1. 堆外内存限制
-XX:MaxDirectMemorySize=512m

# 2. 线程栈限制
-Xss256k  # 减小单线程栈大小

# 3. 元空间限制
-XX:MaxMetaspaceSize=256m

# 4. 堆内存不要超过物理内存的70%
-Xmx: 物理内存 * 0.7

# 5. 监控进程RSS而非只监控堆
ps -p <PID> -o rss,vsz,comm