并发高负载场景下的负载均衡优化方案

**** 

并发高负载场景下,负载均衡优化技术

****   

负载均衡是一种计算机技术,主要用于在多个计算机(如计算机集群)、网络连接、CPU、硬盘驱动器或其他资源中分配工作负载。 其主要目标是优化资源使用、最大化吞吐率、最小化响应时间,同时避免任何一个资源的过载。 在实际应用中,负载均衡通常通过使用多个服务器组件来替代单一的组件,以提高系统的可靠性和冗余性。 这些服务器组件可以是物理服务器,也可以是虚拟机。 

负载均衡服务通常由专用的软件和硬件(如负载均衡器)来完成。 在互联网架构中,负载均衡主要用于解决高并发和高可用性的问题。 例如,当一个网站的访问量突然增加时,负载均衡可以将这些访问请求分配到多个服务器上,从而保证网站的正常运行。

因为业务需要跑多个的cpu密集型进程,为什么这些高负载进程容易被迁移到不同cpu上运行而不是固定在自己的cpu运行?而且跑的并发进程越多,这种迁移越明显?这是因为当一个进程在一个CPU上运行时,它会占用该CPU上所有可用的时间片。如果该CPU上有其他进程也在运行,则它们将无法获得足够的时间片来执行其任务。因此,当一个进程开始变得过于缓慢时,操作系统就会将其移动到另一个CPU上以释放该CPU上的时间片。这样可以确保所有进程都能够获得足够的时间片来执行其任务。

为了确保CPU资源公平分配给各个用户,内核采用了基于Task Group的负载均衡策略。然而,这种绝对公平的设计可能导致低负载进程被迁移到高负载进程所在的CPU上,从而影响高负载组的性能表现。

-对此,您有什么看法见解?-

-欢迎在评论区留言探讨和分享。-

相关推荐
黄俊懿13 分钟前
【架构师从入门到进阶】第六章:服务集群优化——第八节:线程数公式
java·服务器·数据库·分布式·性能优化·架构·系统架构
行者全栈架构师26 分钟前
【鸿蒙心迹】互动卡片全链路——把核心功能放到桌面(FormKit 实战)(HarmonyOS 7.x)
前端·算法·架构
海带紫菜菠萝汤28 分钟前
PostgreSQL 19 延期一个月:AI 把找 bug 变便宜了,修 bug 还是人工价
人工智能·ai·程序员·架构·大模型
Thneonl30 分钟前
主从延迟 0 秒的谎言:SBM 的三个盲区
后端·架构
Dawson Zhu1 小时前
【AI Infra小白入门⑦】Transformer架构工程拆解:从Attention到MLA的优化密码
人工智能·语言模型·架构·aigc·agi
吴建旭 智宅焕1 小时前
智能家居全国交付的县域节点架构:远程技术大脑与本地执行端的标准化实现
架构·智能家居
行者全栈架构师1 小时前
【鸿蒙心迹】让应用“悬浮“起来——闪控球(floatingBall)从接入到实战全链路(HarmonyOS 7.x)
前端·算法·架构
stillstream_ink2 小时前
‌双端电商系统的测试差异分析——别让“只测一端”漏掉80%的联动缺陷
架构·测试
吴建旭 智宅焕2 小时前
米家生态线控器标准装调专项卡:安装调试的标准化SOP与交付确定性架构
架构·智能家居
fpcc2 小时前
AI和大模型—Agent常见架构
人工智能·架构