高并发的常见指标
- 响应时间
- 吞吐量
- 每秒查询率QPS
- 并发用户数
高并发是分布式系统架构设计必须的考虑因素
具体实现方案粗略分两种:
- 垂直扩展
-
硬件升级方向
- 处理器:增加CPU核数(如升级至32核以上)或采用更高主频的CPU
- 存储设备:使用SSD替代机械硬盘,扩大内存容量(如升级至512GB以上)
- 网络设备:采用万兆网卡或高性能网络协议栈提升带宽
- 冗余设计:通过RAID技术提升磁盘I/O可靠性
-
软件优化方向
- 算法改进:采用时间复杂度更优的数据结构(如哈希表替代线性查找)
- 并发编程:通过多线程、协程技术提升CPU利用率(如Go语言的Goroutine机制)
- 资源管理:调整JVM堆内存参数、优化数据库连接池配置
- 架构重构:将单体架构改造为模块化设计,降低模块间耦合度
垂直扩展的适用场景
初期业务量较小,需快速见效的场景
存在硬件瓶颈(如CPU密集型计算任务)且预算充足时
- 水平扩展
|------------|------------------------------------|
| 反向代理层 | DNS轮询+多Nginx实例,每个实例分配独立外网IP |
| 应用层 | 无状态服务设计,通过Kubernetes实现动态扩缩容 |
| 数据层 | 数据库分片+读写分离,缓存层采用Redis Cluster分布式部署 |