gunicorn + flask 处理高并发请求

一、核心架构

​​Flask:局限于单线程 WSGI 应用框架,默认仅能顺序处理请求,无法直接并发。

Gunicorn:多进程模型​​,通过预派生(pre-fork)机制启动多个 Worker 进程(-w参数),每个 Worker 独立处理请求,充分利用多核 CPU。

  • I/O 密集型场景:使用协程模式(-k gevent),单进程内通过事件循环处理数千并发连接。
  • CPU 密集型场景:使用多线程(-k gthread)或同步 Worker(sync)。

二、关键配置

  1. Worker 数量与类型
  • 进程数公式:Worker 数 = (CPU 核心数 × 2) + 1(例:4 核 CPU → 9 Workers)。
  • 协程并发数:通过 --worker-connections 调整单个 Worker 的协程池大小(默认 1000,可增至 2000 ~ 5000)。
  1. 资源限制与稳定性
  • 超时控制:--timeout 30 防止慢请求阻塞 Worker,--graceful-timeout 30确保安全重启。
  • 内存优化:启用 --preload预加载代码,减少多进程内存占用。设置 --max-requests 1000 定期重启 Worker,避免内存泄漏。
  • 反向代理(Nginx):负载均衡:Nginx 分发请求至多个 Gunicorn 实例(监听不同端口),避免单点瓶颈。静态文件与缓存:Nginx 直接处理静态资源,减少 Flask 压力;启用 proxy_cache 缓存动态内容。

​​三、优化策略​

  1. 异步任务处理耗时操作(邮件发送、数据处理)用 Celery + Redis 异步执行,释放请求线程。
  2. 数据库与缓存
  • 连接池:SQLAlchemy 配置 pool_size=20 复用数据库连接。
  • Redis 缓存:高频查询结果缓存,减少数据库访问。
  1. 实时通信优化 WebSocket 场景(如聊天室)使用 Flask-SocketIO + eventlet,替代 HTTP 轮询。

四、部署监控

  1. 容器化部署(Docker):打包应用依赖,确保环境一致性,Docker Compose 管理多实例水平扩展。
  2. 性能监控:Gunicorn 配置 accesslog 和 errorlog 跟踪请求与错误。Prometheus + Grafana 监控内存 / CPU 使用,定位瓶颈。

五、最佳实践

  1. 基础架构:Nginx(负载均衡) + Gunicorn(进程/协程管理) + Flask(业务逻辑)。
  2. 扩展能力:
  • 垂直扩展:增加 Worker 数 / 协程连接数。
  • 水平扩展:通过 Docker 部署多容器实例。
  1. 适用场景:
    I/O 密集型:Gevent Worker + 高 worker-connections。
    CPU 密集型:多进程 + 线程池(gthread)。
相关推荐
Aision_4 分钟前
为什么 CTI 场景需要知识图谱?
人工智能·python·安全·web安全·langchain·prompt·知识图谱
BU摆烂会噶6 分钟前
【LangGraph】LangGraph 工具中访问运行时上下文——ToolRuntime
人工智能·python·langchain·人机交互
MATLAB代码顾问8 小时前
5大智能算法优化标准测试函数对比(Python实现)
开发语言·python
ting94520008 小时前
Tornado 全栈技术深度指南:从原理到实战
人工智能·python·架构·tornado
果汁华9 小时前
Browserbase Skills:让 Claude Agent 真正“看见“网页世界
人工智能·python
ZhengEnCi9 小时前
04-缩放点积注意力代码实现 💻
人工智能·python
DeepReinforce9 小时前
三、AI量化投资:使用akshare获取A股主板20260430所有的涨停股票
python·量化·akshare·龙头战法
段一凡-华北理工大学10 小时前
【高炉炼铁领域炉温监测、预警、调控智能体设计与应用】~系列文章08:多模态数据融合:让数据更聪明
人工智能·python·高炉炼铁·ai赋能·工业智能体·高炉炉温
万粉变现经纪人10 小时前
如何解决 pip install llama-cpp-python 报错 未安装 CMake/Ninja 或 CPU 不支持 AVX 问题
开发语言·python·开源·aigc·pip·ai写作·llama
其实防守也摸鱼10 小时前
CTF密码学综合教学指南--第五章
开发语言·网络·笔记·python·安全·网络安全·密码学