一次Python内存泄漏的真实排查经历

上周线上服务内存占用一路飙升,从200MB涨到2GB,最后OOM被系统杀了。排查过程挺曲折的,分享一下,希望帮到踩类似坑的朋友。

现象

监控告警,服务内存持续增长,重启后从200MB开始,几小时后又到2GB。典型的内存泄漏特征。

排查过程

第一步:确认是不是真的泄漏

先用tracemalloc追踪内存分配:

python 复制代码
import tracemalloc
tracemalloc.start()

# ... 运行业务代码 ...

snapshot = tracemalloc.take_snapshot()
top_stats = snapshot.statistics('lineno')
for stat in top_stats[:10]:
    print(stat)

输出显示某个字典对象一直在增长,占用从几MB涨到了几百MB。

第二步:定位问题代码

追了一下,发现是一个全局缓存字典没有淘汰机制:

python 复制代码
# 问题代码:缓存只进不出
_user_cache = {}

def get_user(user_id):
    if user_id not in _user_cache:
        _user_cache[user_id] = fetch_user_from_db(user_id)
    return _user_cache[user_id]

看起来没问题对吧?但我们的场景是用户量很大,每个用户第一次访问就缓存了,之后永远不会清理。随着用户访问越来越多,缓存就越积越大。

第三步:修复

最简单的方案,换成LRU缓存:

python 复制代码
from functools import lru_cache

@lru_cache(maxsize=10000)
def get_user(user_id):
    return fetch_user_from_db(user_id)

加了maxsize后,缓存超过10000条就自动淘汰最久没访问的。内存占用稳定在300MB左右,问题解决。

反思

其实这个坑很低级,但当时写代码的时候确实没想到用户量会到这个级别。几个教训:

  1. 全局缓存一定要有淘汰策略 ,不管你用lru_cachecachetools.TTLCache还是Redis,总之不能只进不出
  2. 上线前做一下内存压测,模拟一段时间的持续请求,看内存是否持续增长
  3. tracemalloc是排查Python内存问题的利器,比凭直觉猜靠谱多了

顺便说一句,如果缓存的数据来自API调用,还要考虑缓存过期的问题。之前我有个项目调大模型API,结果缓存了过期的响应,debug了好久才反应过来。国内用这些API有时候响应慢或者不稳定,我后来换了个中转站,响应速度好了不少,缓存命中率也提上去了。

就这些,希望对你有帮助。Python

相关推荐
cui_ruicheng8 小时前
Python数据分析(一):数据分析概述与环境搭建
开发语言·python·数据分析
aqi009 小时前
15天学会AI应用开发(十六)LangChain实现对话记忆功能
人工智能·python·大模型·ai编程·ai应用
卷无止境9 小时前
Python的collections模块:那些被低估的"瑞士军刀"
后端·python
卷无止境9 小时前
Python的方法解析顺序:一场关于继承顺序的精妙设计
后端·python
小柯南敲键盘9 小时前
跨马翻译:批量图片与视频字幕翻译,支持智能抠图
大数据·人工智能·python·音视频
再渊10 小时前
基因归因到底怎么计算的?
python·深度学习·机器学习
E_ICEBLUE10 小时前
Python 拆分 Excel 文件:使用 Spire.XLS 实现按工作表、行、列和条件拆分
python·excel
aiqianji10 小时前
有哪些稳定的AI短篇小说写作软件可以推荐?
人工智能·python
Ulyanov10 小时前
Python雷达电子对抗仿真引擎(一):打破单体瓶颈,构建微服务与ECS架构的顶层设计
开发语言·python·微服务·云原生·架构·雷达电子对抗
蓝创工坊Blue Foundry11 小时前
批量提取图片中的数字:怎样整理成一张可核对的 Excel
python·ai·ocr·excel·paddlepaddle