Java Chassis 3技术解密:负载均衡选择器

原文链接:Java Chassis 3技术解密:负载均衡选择器-云社区-华为云

Java Chassis 3技术解密:负载均衡选择器

负载均衡用于管理微服务实例之间的访问策略。它负责在每次请求中高效选择目标实例,并保持请求在多个目标实例中均衡。目标实例选择过程可以使用下面的示例图简单展示:

AZ亲和是常见的选择器之一。它根据本实例的AZ信息和目标实例的AZ信息,确定合适的目标实例子集,实例子集与本实例具有相同的AZ信息。

负载均衡选择器是一个典型的职责链模式。

  • Ribbon 的职责链

    public interface ServerListFilter {
    List getFilteredListOfServers(List servers);
    }

  • Spring Cloud Commons 的职责链

    public abstract class DelegatingServiceInstanceListSupplier implements ServiceInstanceListSupplier, InitializingBean, DisposableBean {
    protected final ServiceInstanceListSupplier delegate;

    复制代码
    public DelegatingServiceInstanceListSupplier(ServiceInstanceListSupplier delegate) {
      this.delegate = delegate;
    }
    
    public ServiceInstanceListSupplier getDelegate() {
      return this.delegate;
    }

    }

  • Java Chassis 的职责链

    public interface DiscoveryFilter extends Ordered {
    DiscoveryTreeNode discovery(DiscoveryContext context, DiscoveryTreeNode parent);
    }

Java Chassis 使用了树型结构的职责链,它的工作过程如下:

  • 将实例预分组。
  • 通过树型结构索引,快速找到目标实例集合。
  • 当某个树节点为空的场景,可以返回上层选择器,重新查找。

能够快速检索到实例的场景:

出现实例为空的的场景:

相对于线性的职责链模式,树型职责链模式存在两方面明显的优势:

  • 计算复杂度从 O(N) 降低为 O(1)。 当实例规模很大,比如超过1000的时候,该算法能够极大的降低CPU使用率,减少垃圾回收的数量。
  • 能够解决上层选择器的结果在下层选择器的结果为空的问题。比如在AZ亲和场景,如果本AZ的实例不满足后续选择器的条件,那么使用非本AZ的实例,能够确保本次访问的正确性,降低错误率,也能够更好的满足请求均衡的要求。

客户故事:在某个客户的实际场景中,如果实例数超过1000,负载均衡的CPU消耗占到整个请求处理时间的20%以上,随着应用规模的变大,负载均衡处理算法的性能优化变得更加重要了。

更多华为云技术干货请关注:华为云PaaS服务小智的博客_云社区-华为云

相关推荐
外收内放3 分钟前
FastAPI猜字谜实战(5):会话管理
开发语言·python·学习·fastapi
Ai-_Man4 分钟前
Microsoft Copilot对话数据怎么导入到另外一个Microsoft Copilot账号里去?AI导出鸭
开发语言·javascript·人工智能·microsoft·chatgpt·ecmascript·copilot
H.莓飛10 分钟前
【数据结构】归并与外排序
linux·服务器·c语言·开发语言·数据结构·visual studio
文丑颜不良啊10 分钟前
LeetCode851~875题目解析
java·leetcode
技术老孙12 分钟前
给 Agent 装上对话框 —— AgentScope-Java 接入 Spring Boot 与 SSE 流式实战
java·开发语言·spring boot
指剑1 小时前
亚麻云之EC2——安全组与密钥对:SSH 端口怎么开才安全,Permission denied (publickey) 和连接超时排查
java·安全·ssh
星夜离尘568 小时前
MATLAB 工程实验:不等间隔流量积分,先把缺口与覆盖率说清楚
开发语言·matlab·时间戳·数据质量·数值积分
_Evan_Yao8 小时前
Redis 缓存穿透、击穿、雪崩,一次讲清!
java·spring·mybatis
Ai-_Man9 小时前
Meta Muse还是不可以导出左侧所有对话,只能点进去单条内容导出,方法不对吗?
开发语言·人工智能·ai·小程序·c#·1024程序员节
梓豪csd9 小时前
消息订阅中心:谁该收到哪条通知
java·开发语言·人工智能·低代码·自动化·1024程序员节