Linux——高流量 高并发(访问场景) 高可用(架构要求)

高并发通用设计逻辑: 定位单点,拆分问题

架构调整的顺序:

  1. 动静分离

// 没有实现动静分离

// 静态请求 交给 nginx或者 httpd 这种对于静态资源处理效率更高的服务,动态请求 交给php-fpm 服务来处理

使用云服务提供商 (阿里云 / 华为云等属于公有云服务商)提供的CDN 服务,将静态资源部署到CDN 中托管,也可以实现动静分离

  1. 缓存技术

varnish / squid / nginx等较为知名的缓存加速软件,进一步加速网站响应速度

加入缓存之后,因为缓存服务一般将数据缓存内存中,数据处理的速度更快,因为数据缓存在内存中,所以也不需要在文件系统中定位请求资源的路径,省去与文件系统和磁盘读写的时间。

设置数据库交互缓存。redis提供数据库的读请求缓存。

  1. 队列(消息队列) 流量削峰平谷 服务解耦(微服务)
  2. 异步处理 服务的事务处理模型
  3. 服务隔离 服务隔离后,就属于分布式部署
    1. 物理隔离 // 分离到不同的物理服务器中
    2. 逻辑隔离 // 虚拟化技术 以及容器技术(计算资源面对高并发时的处理逻辑)
  4. 水平扩展
    1. 负载均衡
    2. 集群高可用
    3. 数据库的水平扩展
      • 读写分离
      • 负载均衡调度
      • 数据一致性
      • 分表分库
      • 异地数据库部署方案 (根据地区部署数据库,将该地区的热点数据保存到地区中)
  5. 监控访问数据
    1. 平均响应时间
    2. QPS
    3. 慢查询日志
    4. 记录客户端分布
  6. 通过管理手段来预估可能的并发数量
    1. 临时促销活动等
    2. 弹性调度 临时资源的租用,临时活动结束后将结束租用。

基础设施高并发

目的: 提高基础硬件使用率主要是cpu 避免软件性能瓶颈

通过隔离软件运行环境实现,主要是虚拟化技术:

  1. 硬件虚拟化 vmware 等
  2. 指令集虚拟化 qemu
  3. 运行库虚拟化 docker等容器技术
    1. 容器编排平台K8S
相关推荐
毒爪的小新4 小时前
Linux 环境极速部署 vLLM:从零搭建生产级大模型推理服务
linux·人工智能·ai·语言模型·vllm
鹤落晴春4 小时前
RH124问答3:从命令行管理文件
linux·运维·服务器
凡人叶枫4 小时前
Effective C++ 条款30:透彻了解 inlining 的里里外外
linux·开发语言·c++·嵌入式开发·effective c++
guslegend4 小时前
大模型驱动大数据SRE智能运维
大数据·运维
遇见火星4 小时前
Docker Compose 完全入门:一键启动所有容器
运维·docker·容器·docker compose
Net_Walke5 小时前
【Linux系统】静态链接库与动态链接库
linux·嵌入式硬件
小啊曼5 小时前
CIO实战方法论_11_组织变革打破部门墙
运维
syc78901235 小时前
中文语境下AI编码工具实战对比:从迭代体验看日常开发选择
linux·人工智能·ubuntu
❀搜不到5 小时前
远程服务器codex使用本地cc-switch的deepseek api
运维·服务器
凡人叶枫5 小时前
Effective C++ 条款22:将成员变量声明为 private
linux·开发语言·c++