Linux——高流量 高并发(访问场景) 高可用(架构要求)

高并发通用设计逻辑: 定位单点,拆分问题

架构调整的顺序:

  1. 动静分离

// 没有实现动静分离

// 静态请求 交给 nginx或者 httpd 这种对于静态资源处理效率更高的服务,动态请求 交给php-fpm 服务来处理

使用云服务提供商 (阿里云 / 华为云等属于公有云服务商)提供的CDN 服务,将静态资源部署到CDN 中托管,也可以实现动静分离

  1. 缓存技术

varnish / squid / nginx等较为知名的缓存加速软件,进一步加速网站响应速度

加入缓存之后,因为缓存服务一般将数据缓存内存中,数据处理的速度更快,因为数据缓存在内存中,所以也不需要在文件系统中定位请求资源的路径,省去与文件系统和磁盘读写的时间。

设置数据库交互缓存。redis提供数据库的读请求缓存。

  1. 队列(消息队列) 流量削峰平谷 服务解耦(微服务)
  2. 异步处理 服务的事务处理模型
  3. 服务隔离 服务隔离后,就属于分布式部署
    1. 物理隔离 // 分离到不同的物理服务器中
    2. 逻辑隔离 // 虚拟化技术 以及容器技术(计算资源面对高并发时的处理逻辑)
  4. 水平扩展
    1. 负载均衡
    2. 集群高可用
    3. 数据库的水平扩展
      • 读写分离
      • 负载均衡调度
      • 数据一致性
      • 分表分库
      • 异地数据库部署方案 (根据地区部署数据库,将该地区的热点数据保存到地区中)
  5. 监控访问数据
    1. 平均响应时间
    2. QPS
    3. 慢查询日志
    4. 记录客户端分布
  6. 通过管理手段来预估可能的并发数量
    1. 临时促销活动等
    2. 弹性调度 临时资源的租用,临时活动结束后将结束租用。

基础设施高并发

目的: 提高基础硬件使用率主要是cpu 避免软件性能瓶颈

通过隔离软件运行环境实现,主要是虚拟化技术:

  1. 硬件虚拟化 vmware 等
  2. 指令集虚拟化 qemu
  3. 运行库虚拟化 docker等容器技术
    1. 容器编排平台K8S
相关推荐
CCblandy3 小时前
令牌桶在 0.9 倍负载超发 19%、固定窗口边界放行 20 个:四种限流算法同构实测
后端·python·算法·性能优化·架构
U-Mail邮件系统3 小时前
自建邮箱服务器有哪些软件?三款主流邮件服务器软件推荐
运维·服务器
唠点键盘之外的3 小时前
27 存量系统接大模型:旁挂一个 AI 微服务,老架构一行不改
人工智能·微服务·架构
GOWIN革文品牌咨询4 小时前
工业测量品牌系统化搭建指南:从内容架构到长期治理的全流程
大数据·人工智能·架构
倒头就睡的小比特4 小时前
Linux基础指令3
linux·服务器
forest_094 小时前
Agent 系列02|Agent 架构全景图
人工智能·架构·prompt·agi
天远数科5 小时前
零信任架构实战:基于天远贷前风险报告构建自动化消金信贷风控与多头共债排查网关
运维·人工智能·架构·自动化
梦帮科技5 小时前
Kali Linux Scapy 畸形报文构造学——深度解剖非法 TCP Flags 与反常序列号
linux·爬虫·神经网络·算法·数学建模·系统架构·模拟退火算法
一条大祥脚5 小时前
【CS336】lecture7 多卡|通信架构|集合通信|NCCL|通信原语|torch.distributed
分布式·架构·nccl·多机多卡·集合通信
RichardLau_Cx6 小时前
STEPX Neo 技术解析:智能体原生操作系统 Step AOS 与 Agentic Phone 架构深度拆解
架构