并发高负载场景下的负载均衡优化方案

**** 

并发高负载场景下,负载均衡优化技术

****   

负载均衡是一种计算机技术,主要用于在多个计算机(如计算机集群)、网络连接、CPU、硬盘驱动器或其他资源中分配工作负载。 其主要目标是优化资源使用、最大化吞吐率、最小化响应时间,同时避免任何一个资源的过载。 在实际应用中,负载均衡通常通过使用多个服务器组件来替代单一的组件,以提高系统的可靠性和冗余性。 这些服务器组件可以是物理服务器,也可以是虚拟机。 

负载均衡服务通常由专用的软件和硬件(如负载均衡器)来完成。 在互联网架构中,负载均衡主要用于解决高并发和高可用性的问题。 例如,当一个网站的访问量突然增加时,负载均衡可以将这些访问请求分配到多个服务器上,从而保证网站的正常运行。

因为业务需要跑多个的cpu密集型进程,为什么这些高负载进程容易被迁移到不同cpu上运行而不是固定在自己的cpu运行?而且跑的并发进程越多,这种迁移越明显?这是因为当一个进程在一个CPU上运行时,它会占用该CPU上所有可用的时间片。如果该CPU上有其他进程也在运行,则它们将无法获得足够的时间片来执行其任务。因此,当一个进程开始变得过于缓慢时,操作系统就会将其移动到另一个CPU上以释放该CPU上的时间片。这样可以确保所有进程都能够获得足够的时间片来执行其任务。

为了确保CPU资源公平分配给各个用户,内核采用了基于Task Group的负载均衡策略。然而,这种绝对公平的设计可能导致低负载进程被迁移到高负载进程所在的CPU上,从而影响高负载组的性能表现。

-对此,您有什么看法见解?-

-欢迎在评论区留言探讨和分享。-

相关推荐
蓝天居士3 小时前
软考 系统架构设计师系列知识点之杂项集萃(83)
系统架构
颜颜yan_6 小时前
【HarmonyOS5】UIAbility组件生命周期详解:从创建到销毁的全景解析
架构·harmonyos·鸿蒙·鸿蒙系统
姜君竹8 小时前
QT的工程文件.pro文件
开发语言·c++·qt·系统架构
打码人的日常分享9 小时前
智慧城市建设方案
大数据·架构·智慧城市·制造
鲁班大叔_00710 小时前
使用扣子与Dify的业务风险
架构·产品
hello早上好10 小时前
Spring不同类型的ApplicationContext的创建方式
java·后端·架构
Python智慧行囊11 小时前
Python 中 Django 中间件:原理、方法与实战应用
python·中间件·架构·django·开发
HyggeBest11 小时前
Mysql的数据存储结构
后端·架构
PypYCCcccCc12 小时前
支付系统架构图
java·网络·金融·系统架构
冰橙子id12 小时前
centos7编译安装LNMP架构
mysql·nginx·架构·centos·php