线上惊魂:Nacos 抖动导致大面积服务掉线,我们是怎么兜底的

事故现场

这次的背景是生产环境 Nacos 集群 3 个节点,其中一个节点因底层硬件问题需要重启。按理说,集群架构天然支持节点故障转移,但重启后大量服务开始报不健康告警,最终引发连锁反应------大面积服务重启。

问题的本质是:Nacos 服务端的一次短暂抖动,怎么就传导成了客户端的雪崩?

针对这次的nacos问题而产生的议题就是如何避免因nacos的抖动而减少对客户端的影响降到最小。

根因定位

我们的 Nacos 集群版本是 1.4.2,配合 Spring Cloud Alibaba 使用。排查发现,Spring Cloud 会定期调用 /actuator/health 端点检查服务健康状态,而这个健康检查默认会去探测 Nacos 的发现服务状态。当 Nacos 节点重启期间短暂不可达时,健康检查判定服务 DOWN,触发了大规模重启。

看下当时的客户端日志:

节点地址不可用,连接直接中断。

解决方案

思路很直接:既然健康检查会因为 Nacos 抖动误判,那就关掉它对 Nacos 状态的依赖。

Spring Cloud 提供了一个通用参数 spring.cloud.discovery.client.health-indicator.enabled,设为 false 后,健康检查不再去查 Nacos 的服务发现状态。

第一步:禁用 Discovery 健康指标

YAML 复制代码
spring:
  profiles: prd
  cloud:
    discovery:
      client:
        health-indicator:
          enabled: false

加了这个配置后,/actuator/health 的返回内容会发生变化。

加配置前:

nacosDiscovery 和 nacosConfig 都在健康检查列表里,且包含所有服务列表,Nacos 抖动直接判定整体 DOWN。

加配置后:

服务明细列表干净了,只剩 nacosConfig 和 nacosDiscovery 两个状态指标。

第二步:精细控制各组件健康检查

光关掉 discovery 的还不够,其他组件也可能在 Nacos 抖动时误判。进一步精细化配置:

YAML 复制代码
management:
  endpoints:
    web:
      exposure:
        include: '*'
  endpoint:
    health:
      show-details: ALWAYS
    metrics:
      enabled: true
    prometheus:
      enabled: true
  metrics:
    export:
      prometheus:
        enabled: true
    tags:
      application: ${spring.application.name}
  health:
    redis:
      enabled: false
    rabbit:
      enabled: false
    db:
      enabled: false
    nacos-config:
      enabled: false
    nacos-discovery:
      enabled: false

关键就是最后两行------把 nacos-config 和 nacos-discovery 的健康检查都关掉。/actuator/health 不检查 Nacos和Config 连接状态 ,不可用不应阻断服务。

效果验证

关闭前: Nacos 一抖,整体状态 DOWN

nacosConfig、nacosDiscovery 都是 DOWN,直接拖垮整体状态。

关闭后: Nacos 抖动也不影响服务存活

只剩 diskSpace、refreshScope、hystrix 这些本地指标,Nacos 状态完全不参与判定,服务稳了。

为什么这个参数有效

  1. spring.cloud.discovery.client.health-indicator.enabled 是 Spring Cloud 框架的通用配置,Nacos 作为 Discovery Client 的实现,天然遵循这套规范。

  2. 把 nacos-config 和 nacos-discovery 的健康检查都关掉。

  3. 关闭后,服务实例不再因为 Nacos 服务短暂不可达就被判定为不健康,客户端进程不会被误杀重启

踩坑提醒

  • 这个参数需要 Spring Cloud Alibaba 2.1.0 或更高版本,老版本可能不支持

  • 健康检查默认开启(enabled: true),不加配置就是全开状态

  • 关闭 Nacos 健康检查不等于放弃监控------Prometheus + Grafana 该配还得配,只是别让 Actuator 健康端点来背这个锅

相关推荐
Thomas.Sir2 天前
第12课:Nacos 配置加密、版本回溯、配置监听 & 生产风控方案
spring cloud·nacos
Thomas.Sir3 天前
第11课:Nacos 多环境、多服务配置隔离 & 配置优先级详解
spring cloud·微服务·nacos
叶总没有会5 天前
OpenFeign
java·开发语言·springcloud·openfeign
lisanmengmeng5 天前
nacos nrpe 监控机及被监控机部署
服务器·nacos·nagios·nrpe
欢醉13 天前
踩坑记:一次Nacos客户端偶发connect timed out全链路排查
nacos·springcloud
小小谈电商14 天前
大型集团级 B2B2C 商城落地|微服务高并发电商系统实践复盘
springcloud·商城源码选型·微服务电商·b2b2c商城·集团电商
cnkeysky15 天前
SpringBoot 整合 nacos 配置中心
nacos·springboot
jonyleek16 天前
企业文档私有化实践:基于JVS数字底座的可控协同架构设计与落地要点
elasticsearch·私有化部署·springcloud·微服务架构·信创适配·jvs·企业文档
cnkeysky16 天前
docker 运行 nacos
docker·nacos
滕州市燕猫虎计算机科技工作室个体工商户18 天前
SpringCloud应用启动后自动shutdown的原因
springboot·springcloud·自动退出·自动shutdown