Kong工作原理 - 负载均衡 - 基于DNS的负载均衡

Kong提供多种请求负载均衡到多个后端服务的方式:默认的基于DNS的方法,以及使用Upstream实体的一组高级负载均衡算法。

默认情况下启用DNS负载均衡器,仅限于循环调度负载均衡。Upstream实体还具有健康检查和断路器功能,除了更高级的算法,如最小连接数、一致性哈希和最低延迟。

根据您的基础设施,请参考相应的DNS注意事项。

每个使用主机名(而不是IP地址)定义的服务,如果该名称解析为多个IP地址,将自动使用基于DNS的负载均衡。

DNS记录的ttl设置(存活时间)决定了信息刷新的频率。当使用ttl为0时,每个请求将使用自己的DNS查询进行解析。显然,这会带来一定的性能损耗,但更新/更改的延迟将非常低。

所使用的循环调度算法(是否加权)取决于主机名的DNS记录类型。

A记录

A记录包含一个或多个IP地址。因此,当主机名解析为A记录时,每个后端服务必须有自己的IP地址。

由于没有权重信息,负载均衡器将平等对待所有条目,并进行简单的循环调度。

SRV记录

SRV记录包含所有IP地址的权重和端口信息。后端服务可以通过IP地址和端口号的唯一组合进行标识。因此,单个IP地址可以在不同的端口上承载多个相同服务的实例。

SRV记录还具有优先级属性。Kong只会使用具有最高优先级的条目,并忽略其他所有条目(请注意,SRV记录中的"最高优先级"实际上是具有最低优先级值的记录)。

因为可用权重信息,每个条目在负载均衡器中都会有自己的权重,并进行加权循环调度。

类似地,任何给定的端口信息都将被DNS服务器的端口信息覆盖。如果一个服务具有主机属性为myhost.com和端口属性为123,并且myhost.com解析为一个带有127.0.0.1:456的SRV记录,那么请求将被代理到http://127.0.0.1:456/somepath,因为端口123将被456覆盖。

DNS注意事项
  • Kong将信任域名服务器。这意味着通过DNS查询检索到的信息将比配置的值具有更高的优先级。这主要涉及到携带端口和权重信息的SRV记录。
  • 每当DNS记录刷新时,会生成一个列表来正确处理权重。为了保持算法的性能,尽量将权重保持为它们的倍数,例如,17和31的2个权重将导致结构中有527个条目,而16和32的权重(或者它们最小的相对项1和2)将导致结构中仅有3个条目。这在非常小(甚至为0)的ttl值下尤其重要。
  • DNS使用默认限制为512字节的UDP进行传输。如果要返回的条目很多,DNS服务器将以部分数据进行响应,并设置截断标志,表示有更多未发送的条目。DNS客户端,包括Kong,将通过TCP发起第二个请求来检索完整的条目列表。
  • 一些域名服务器默认情况下不会响应截断标志,而是将响应修剪为在512字节UDP大小以下。
    • Consul是一个示例。在其默认配置中,Consul仅返回前三个条目,并且不设置截断标志来指示还有剩余的未发送条目。Consul提供了一个选项来启用截断标志。
  • 如果部署的域名服务器没有提供截断标志,那么上游实例的负载可能会不一致。由于域名服务器提供的信息有限,Kong节点实际上对某些实例不知情。为了缓解这个问题,可以使用一个不同的域名服务器,使用IP地址而不是名称,或者确保使用足够多的Kong节点以保持所有上游服务的使用状态。
  • 当域名服务器返回一个"3 Name Error"的错误时,这对于Kong来说是一个有效的响应。如果这是意外的情况,首先验证查询的名称是否正确,其次检查域名服务器的配置。
  • 在DNS记录(A或SRV)中,初始选择的IP地址不是随机的。因此,在使用TTL为0的记录时,预期域名服务器会对记录条目进行随机排序。
相关推荐
AOwhisky1 天前
Ceph系列第五期:Ceph 对象存储(RADOS Gateway)精讲
linux·运维·笔记·ceph·gateway·对象存储
西凉的悲伤2 天前
Spring Cloud Gateway介绍
java·spring cloud·gateway
苏渡苇3 天前
Spring Cloud Gateway 网关限流
spring cloud·gateway·springboot·网关限流
一个儒雅随和的男子4 天前
Spring cloud组件gateway网关详细剖析
spring·spring cloud·gateway
超梦dasgg4 天前
Gateway 鉴权场景:网关统一鉴权 + 业务应用决定放行规则
java·gateway
木雷坞4 天前
AI Gateway 接入大模型服务后首 token 慢排查:镜像、模型缓存和 GPU 节点
人工智能·缓存·gateway
明夜之约5 天前
Spring Cloud Gateway 深度解析:从路由原理到生产级网关实战
java·spring·spring cloud·gateway
tyler_download6 天前
深入深出openclaw:gateway 服务进程的启动逻辑
gateway
Upsy-Daisy6 天前
OpenClaw 源码解析(七):Gateway 控制平面与 WebSocket RPC 机制
websocket·平面·gateway
香菜烤面包6 天前
SGLang Model Gateway 核心功能解析
gateway