快速了解高并发解决方案

对《高并发的哲学原理》的个人总结,原书地址如下https://pphc.lvwenhan.com/

本书的核心思想就是拆分,服务细化拆分+多资源并行。

通用设计方法

例子:每秒100万次http请求

通过架构解决性能问题,在面对并发需求时,在架构上进行优化最为简单,并且对系统稳定性影响最低,也是最容易获得收益的方法。架构优化可通过拿其他资源来交换性能,即空间换时间。

通过以下方案逐步将系统性能上限的100 qps提升到100万qps。

  • 动静资源分开部署

是部分场景下收益最大的一步,可以将90%的流量压力转移出去。

Apache和Nginx的区别:nginx处理请求是异步非阻塞的,apache是阻塞型的。Nginx处理大并发静态请求效率高于其他软件,可作为负载均衡服务器,可承受3万以上并发连接数,是Apache的10倍。4GB内存的服务器+Apache(prefork模式)一般只能处理3000个并发连接,占用3GB以上内存,Nginx在3万并发连接下,消耗不到2GB内存。

  • 使用云服务

如果把静态资源交给云服务商的CDN来承载,还可以获得90%的CPU节省。CDN流量费比云主机的流量费更便宜。

  • 数据库独立部署

如果使用了nginx承载全部静态资源,云主机还是扛不住流量就需要增加数据库服务器。如果后端代码和数据库部署在同一台机器上是"灾难架构",出于成本考虑,大多数低流量管理系统都会放在同一台机器上。

系统承受能力稍微加大,会面临以下局面:

  1. cpu耗尽导致mysql相应变慢
  2. 代码需更长时间等待,虽不耗cpu资源,却内存占用加大
  3. 内存占用导致innnodb缓存回收,降低了mysql运行速度
  4. 最终形成"内卷"和"踩踏",系统性能急剧下降,服务可能完全崩溃

MYSQL单独部署

将mysql和后端代码进行隔离,数据库的性能就能达到可观的水平。一台1核2G的mysql服务器能够达到200qps,足以支撑100万浏览量的小网站

未完待续

相关推荐
callJJ2 天前
深入浅出 MVCC —— 从零理解 MySQL 并发控制
数据库·mysql·面试·并发·mvcc
西门吹雪分身2 天前
JUC之公平锁与非公平锁
java·并发·juc·
消失的旧时光-19432 天前
C++ 多线程与并发系统取向(二)—— 资源保护:std::mutex 与 RAII(类比 Java synchronized)
java·开发语言·c++·并发
消失的旧时光-19433 天前
C++ 多线程与并发系统取向(七)—— 并发排障与工程纪律(从“会写”到“能控场”)
开发语言·c++·并发
消失的旧时光-19433 天前
C++ 多线程与并发系统取向(五)—— std::atomic:原子操作与状态一致性(类比 Java Atomic)
开发语言·jvm·c++·并发
郝学胜-神的一滴7 天前
Effective Modern C++ 条款39:一次事件通信的优雅解决方案
开发语言·数据结构·c++·算法·多线程·并发
郝学胜-神的一滴8 天前
Effective Modern C++ 条款38:线程句柄析构行为与Vibe Coding优化指南
开发语言·数据结构·c++·程序人生·多线程·并发
装不满的克莱因瓶8 天前
Java高并发异步请求实战,Jmeter暴力压测下的解决方案
jmeter·线程池·多线程·并发·resttemplate·qps·压测
郝学胜-神的一滴10 天前
Effective Modern C++ 条款37:使std::thread在所有路径最后都不可结合
开发语言·c++·程序人生·多线程·并发·std
ps酷教程15 天前
CompletableFuture学习
java·并发