记一次 .NET 某人力资源网 CPU爆高分析

一：背景

1. 讲故事

前段时间微信里有一位非训练营学员找到我，说他们的系统在某些时段会cpu爆高，并伴有网络带宽的激增，不知道是什么情况，让我帮忙看下怎么回事，哈哈，说这个故障之前，我先吐槽一下，地狱不空，在社区里我一个人的力量太微弱了，这5年来我给行业内开发朋友都是全免费分析，这也让自己不堪重负，不得不考虑收缩，目前非学员首单免费，也只有我的训练营学员才会永久免费分析。给自己的学员分析dump还是比较轻松的，毕竟大家都是有一定的调试体系知识，同根同源。

吐槽完毕，开始本篇的dump分析之旅。

二：CPU爆高分析

1. 为什么会cpu爆高

关于cpu爆高的dump，最好用procdump自动去抓，因为在我的分析之旅中，有不少人手工去抓cpu爆高往往都不大准，还有一点一定要相信数据而不是人言，使用 !tp 观察cpu的利用率。

0:000> !tp
CPU utilization: 100%
Worker Thread: Total: 20 Running: 5 Idle: 7 MaxLimit: 32767 MinLimit: 12
Work Request in Queue: 0
--------------------------------------
Number of Timers: 2
--------------------------------------
Completion Port Thread:Total: 1 Free: 1 MaxFree: 24 CurrentLimit: 1 MaxLimit: 1000 MinLimit: 12

从卦中看确实cpu被打爆，恰好昨天分析了一个 .net2.0 的dump，可气的是没有 !tp 命令，这就非常考验我们的clr知识了，需要知道 CPU utilization 这个值 sos 是从哪里取得的？如果你看过sscli源代码，应该知道它是 win32threadpool.cpp 的一个全局变量。

SVAL_IMPL(long,ThreadpoolMgr,cpuUtilization);

接下来用 windbg 验证下。

0:000> x  clr!ThreadpoolMgr::cpuUtilization
00007ffb`08541558 clr!ThreadpoolMgr::cpuUtilization = <no type information>
0:000> dp clr!ThreadpoolMgr::cpuUtilization L1
00007ffb`08541558  00000000`00000064
0:000> ? 0x64
Evaluate expression: 100 = 00000000`00000064

从卦中看完全对上了，所以dump分析多了，不能对 sos 有太多的依赖。

接下来我们看下cpu的能力，因为自我分析过2core cpu程序之后，我对cpu的健壮性一直都非常好奇，有时候cpu爆高不是业务问题，是 cpu 真的太弱了，接下来使用 !cpuid 观察便知。

0:000> !cpuid
CP  F/M/S  Manufacturer     MHz
 0  6,85,7  <unavailable>   2500
 1  6,85,7  <unavailable>   2500
 2  6,85,7  <unavailable>   2500
 3  6,85,7  <unavailable>   2500
 4  6,85,7  <unavailable>   2500
 5  6,85,7  <unavailable>   2500
 6  6,85,7  <unavailable>   2500
 7  6,85,7  <unavailable>   2500
 8  6,85,7  <unavailable>   2500
 9  6,85,7  <unavailable>   2500
10  6,85,7  <unavailable>   2500
11  6,85,7  <unavailable>   2500

从卦中看当前是一个 8core 的cpu，能力方面还算说的过去，接下来使用 ~*e !clrstack 观察下每个线程都在做什么？

0:000> ~*e !clrstack
OS Thread Id: 0x77fc (0)
Unable to walk the managed stack. The current thread is likely not a 
managed thread. You can run !threads to get a list of managed threads in
the process
Failed to start stack walk: 80070057
...
OS Thread Id: 0x74c4 (58)
        Child SP               IP Call Site
0000002f9c85e4c8 00007ffb14ea058a [HelperMethodFrame_1OBJ: 0000002f9c85e4c8] System.Threading.Thread.JoinInternal(Int32)
0000002f9c85e5d0 00007ffb06def9fe System.Threading.Thread.Join(System.TimeSpan) [f:\dd\ndp\clr\src\BCL\system\threading\thread.cs @ 701]
0000002f9c85e610 00007ffaaaa62f42 FreeRedis.Internal.IdleBus`2[[System.__Canon, mscorlib],[System.__Canon, mscorlib]].ThreadJoin(System.TimeSpan)
0000002f9c85e6d0 00007ffaaaa62422 FreeRedis.Internal.IdleBus`2[[System.__Canon, mscorlib],[System.__Canon, mscorlib]].ThreadScanWatchHandler()
...
OS Thread Id: 0x6618 (63)
        Child SP               IP Call Site
0000002f9bffcff8 00007ffb14ea001a [InlinedCallFrame: 0000002f9bffcff8] System.Net.UnsafeNclNativeMethods+OSSOCK.recv(IntPtr, Byte*, Int32, System.Net.Sockets.SocketFlags)
0000002f9bffcff8 00007ffb057310b2 [InlinedCallFrame: 0000002f9bffcff8] System.Net.UnsafeNclNativeMethods+OSSOCK.recv(IntPtr, Byte*, Int32, System.Net.Sockets.SocketFlags)
0000002f9bffcfd0 00007ffb057310b2 DomainNeutralILStubClass.IL_STUB_PInvoke(IntPtr, Byte*, Int32, System.Net.Sockets.SocketFlags)
0000002f9bffd080 00007ffb056ae48f System.Net.Sockets.Socket.Receive(Byte[], Int32, Int32, System.Net.Sockets.SocketFlags, System.Net.Sockets.SocketError ByRef) [f:\dd\NDP\fx\src\net\System\Net\Sockets\Socket.cs @ 1780]
0000002f9bffd100 00007ffb056ac845 System.Net.Sockets.NetworkStream.Read(Byte[], Int32, Int32) [f:\dd\NDP\fx\src\net\System\Net\Sockets\NetworkStream.cs @ 513]
0000002f9bffd170 00007ffb056ac6b1 System.Net.PooledStream.Read(Byte[], Int32, Int32) [f:\dd\NDP\fx\src\net\System\Net\_PooledStream.cs @ 469]
0000002f9bffd1d0 00007ffb056ad4a1 System.Net.Connection.SyncRead(System.Net.HttpWebRequest, Boolean, Boolean) [f:\dd\NDP\fx\src\net\System\Net\_Connection.cs @ 3346]
0000002f9bffd230 00007ffb056d07bb System.Net.ConnectStream.ProcessWriteCallDone(System.Net.ConnectionReturnResult) [f:\dd\NDP\fx\src\net\System\Net\_ConnectStream.cs @ 450]
0000002f9bffd270 00007ffb056c4ea9 System.Net.HttpWebRequest.CheckDeferredCallDone(System.Net.ConnectStream) [f:\dd\NDP\fx\src\net\System\Net\HttpWebRequest.cs @ 2109]
...

从卦象中看，只有几个线程有调用栈，并且大多都挂在 event 事件上，这些并不能导致 cpu 爆高，这就让人很迷茫了，难道这个也是手工抓取的不准吗？

2. 走出迷雾

在思考了若干秒之后，马上就意识到既然托管层没问题，或许非托管有问题呢？毕竟 ~*e !clrstack 是一个肌肉记忆命令，接下来使用 ~* k 观察各个非托管栈，果然发现有多处 ipFilter 外来模块，截图如下：

从卦中看 ipFilter 貌似是一个 ip过滤器，正在忙碌的处理，看样子正在高频计算导致的cpu临时性爆高，那 ipFilter 是何方神圣呢？使用 lmvm ipFilter 观察一下便知。

0:079> lmvm ipFilter
Browse full module list
start             end                 module name
00007ffb`041c0000 00007ffb`041f0000   ipFilter   (export symbols)       ipFilter.dll
    Loaded symbol image file: ipFilter.dll
    Image path: D:\软件\安全软件\YunSuoAgent\x64\ipFilter.dll
    Image name: ipFilter.dll
    Browse all global symbols  functions  data
    Timestamp:        Wed Feb  5 19:14:48 2020 (5E3AA3A8)
    CheckSum:         000367C5
    ImageSize:        00030000
    Translations:     0000.04b0 0000.04e4 0409.04b0 0409.04e4
    Information from resource tables:

接下来拿 YunSuoAgent 到 bing上搜一下，原来是 云锁 这款安全软件，截图如下：

3. 云锁为什么会拦截

云锁为什么会拦截，这个真搞不清楚，只能简单猜测下，拿其中的 79号线程 具体来说，使用 k 和 !dso 命令。

0:079> k
 # Child-SP          RetAddr               Call Site
00 0000002f`915ed080 00007ffb`041c89a7     ipFilter+0x12bd
01 0000002f`915ed0b0 00007ffb`041c81ab     ipFilter+0x89a7
02 0000002f`915ed130 00007ffb`041c87e9     ipFilter+0x81ab
03 0000002f`915ed350 00007ffb`041c3298     ipFilter+0x87e9
04 0000002f`915ed440 00007ffb`041c9050     ipFilter+0x3298
05 0000002f`915ed5b0 00007ffb`041c920d     ipFilter+0x9050
06 0000002f`915ed670 00007ffb`043201de     ipFilter+0x920d
07 0000002f`915ed6c0 00007ffb`04320219     FilterKernel+0x501de
08 0000002f`915ed730 00007ffb`04320219     FilterKernel+0x50219
09 0000002f`915ed7a0 00007ffb`04330c92     FilterKernel+0x50219
0a 0000002f`915ed810 00007ffb`044f4524     FilterKernel+0x60c92
0b 0000002f`915ed850 00007ffb`045a297f     agent_iis7_module!RegisterModule+0x1594
...

0:079> !dso
OS Thread Id: 0x74e4 (79)
RSP/REG          Object           Name
0000002F915ED9B8 0000002e062ccb60 System.Web.HttpContext
0000002F915ED9C0 0000002e062cc800 System.Web.Hosting.IIS7WorkerRequest
0000002F915EDEE8 0000002e062d0558 System.String    /WebResource.axd
0000002F915EDF00 0000002d058ed588 ASP.global_asax
0000002F915EDF08 0000002d058ed588 ASP.global_asax
0000002F915EDF20 0000002e062d0558 System.String    /WebResource.axd
0000002F915EDF40 0000002e062d0558 System.String    /WebResource.axd
...

从卦中可以看到 ipFilter.dll 是注册到 iis 的一个 httpmodule，同时也看到了一个比较特殊的 /WebResource.axd 文件，熟悉 asp.net 的朋友应该知道，它其实是一个 httphandler，专用来动态产生 css，js 资源的，不需要将 css，js 放到物理文件中，在网上也有很多关于 /WebResource.axd 的漏洞注入案例，所以这东西是 ipfilter 的重点监控之处，不过直接导致 cpu 爆高，这就有点让人无语了。

将结果告诉朋友之后，让朋友将 云锁 关掉，CPU 终于下去了。

三：总结

今年遇到了好几起 安全软件 导致的各种问题，内存泄露，程序卡死，程序崩溃，以及本篇的 CPU 爆高，也是无语了。。。