RPC-健康检测机制

什么是健康检测?

在真实环境中服务提供方是以一个集群的方式提供服务,这对于服务调用方来说,就是一个接口会有多个服务提供方同时提供服务,调用方在每次发起请求的时候都可以拿到一个可用的连接。

健康检测,能帮助从连接列表里面过滤掉一些存在问题的节点,避免在发请求的时候选择出有问题的节点而影响业务。

终极解决方案是让调用方实时感知到节点的状态变化。

健康检测的逻辑

服务调用方每隔一段时间就问一下服务提供方,"兄弟,你还好吧?",然后服务提供方很诚实地告诉调用方它目前的状态。

服务器健康三个状态:

  1. 健康状态:建立连接成功,并且心跳探活也一直成功;
  2. 亚健康状态:建立连接成功,但是心跳请求连续失败;
  3. 死亡状态:建立连接失败。

节点的状态并不是固定不变的,它会根据心跳或者重连的结果来动态变化,具体状态间转换图如下:

可用率:计算方式是某一个时间窗口 内接口调用成功次数的百分比(成功次数/总调用次数)。

当可用率低于某个比例就认为这个节点存在问题,把它挪到亚健康列表,这样既考虑了高低频的调用接口,也兼顾了接口响应时间不同的问题。

应用僵死(TCP连接健康,端口正常),让每个应用实例提供一个"健康检测 "URL ,检测程序定时访问该URL,然后根据响应结果来进行存活判断,这样可以防止僵死状态的误判。

但是检测程序如果与目标机器之间存在网络问题,就可能存在误判几率,实际目标机器是正常的,但是因为网络原因产生误判。

有一个办法可以减少误判的几率,那就是把检测程序部署在多个机器,分布在不同的机架,甚至不同的机房。这样网络同时故障的概率非常低,只要任意一个检测程序实例访问目标机器正常,就可以说明该目标机器正常。

相关推荐
艾莉丝努力练剑21 分钟前
【AI大模型接入SDK】Trae生成main方法
网络·人工智能·网络协议·http·架构·1024程序员节
隔窗听雨眠32 分钟前
从行为引导到基础设施约束:AGI代理风险缓解的工程化路径
网络·人工智能·agi
pt104339 分钟前
Cisco设备网络安全系列-16:微服务、Kubernetes与无服务器架构安全
网络·安全·微服务·架构
SatanII1 小时前
Kubernetes 网络
网络·容器·kubernetes
进化中的刀盾兽3 小时前
从零实现 C++ Json-Rpc(十):把消息交给真实连接——MuduoConnection 与 ConnectionFactory
c++·rpc
青瓦梦滋10 小时前
WebSocket协议
linux·服务器·网络·c++·websocket·网络协议·http
zhang1338308907511 小时前
传统机械三杯式风速传感器易磨损冻堵?CG-88金属超声波风速风向传感器给出免运维方案
运维·服务器·网络·人工智能·自动化
知已难寻11 小时前
第 2 篇 · 云的地基:服务器、存储、网络三大基础设施
运维·服务器·网络·云原生·云计算·负载均衡·1024程序员节
IpdataCloud12 小时前
批量查IP的API接口怎么选?免费API配额瓶颈与离线库本地批量方案实测
网络·网络协议·tcp/ip
ITyunwei098714 小时前
售后夜间值守怎么落地:从告警到交接的工单系统配置笔记
网络