HBase节点故障的容错方案

HBase节点故障的容错方案

  • [1. Master高可用](#1. Master高可用)
    • [1.1 选主和HA切换逻辑](#1.1 选主和HA切换逻辑)
  • [2. RS高可用](#2. RS高可用)
    • [2.1 感知RS节点异常](#2.1 感知RS节点异常)
    • [2.2 异常DN上的数据处理](#2.2 异常DN上的数据处理)
  • [4. 疑问和思考](#4. 疑问和思考)
  • [5. 参考文档](#5. 参考文档)

本文主要探讨hbase集群的高可用容错方案和容错能力的探讨。涉及Master和RS相关组件,在出现单机故障时相关的容错方案。

更多关于分布式系统的架构思考请参考文档关于常见分布式组件高可用设计原理的理解和思考

1. Master高可用

1.1 选主和HA切换逻辑

Master的HA机制主要依靠zk完成。整体的逻辑跟HDFS的NN逻辑整体上一致,也略有差别,可以参考 HDFS节点故障的容错方案

相同点

1, Master使用zk的临时锁节点进行选主

2,其他节点的watch机制跟hdfs的逻辑也一致

不同点

1, Master没有另外涉及zkfc辅助选主,而是Master自己完成了相关的逻辑

2,Master集群没有涉及fencing逻辑。

2. RS高可用

RS节点是具体的数据存储节点,HBase通常依赖hdfs进行数据存储,包括wal日志等基础原数据存储等。由于hdfs本身能够提供高可用,并且能够提供远程存储能力,因此1个RS写入的数据(包括wal日志)等能够在另外一个RS中进行数据回放。

由于HBase本身没有直接跟磁盘进行交互,因此底层的磁盘io等信息被hdfs隔离,因此hdfs的读写、存储能力直接影响HBase的性能。

2.1 感知RS节点异常

1,RS在zk中注册临时路径(/hbase/rs),如果RS节点异常,在ttl时间(默认 3min)后临时节点会被zk删除。

2, Master通过watch机制监听rs的相关路径,RS在zk中注册的临时路径过期后被删除,zk会将相关事件通知Master

2.2 异常DN上的数据处理

Master感知到RS异常后,会将RS上的Region信息迁移到其他的RS,并将wal日志在对应的RS节点进行回放,从而确保数据不丢失。

4. 疑问和思考

暂无

5. 参考文档

暂无

相关推荐
人工智能培训3 小时前
人工智能性别与地域偏见的成因及消解路径
大数据·人工智能·算法·生活
段一凡-华北理工大学3 小时前
高炉炉况智能诊断与预警实战~系列文章24:炉况诊断实战全景复盘:从需求到价值的完整案例
大数据·人工智能·机器学习·模型可解释性·高炉智能化·高炉炉况诊断·高炉炉况预警
算法大模型备案干货咪3 小时前
《大模型备案工程实操:语料标注规则、关键词拦截列表与测试题集的设计》
数据库·人工智能
Elastic 中国社区官方博客3 小时前
安装 Elasticsearch
大数据·数据库·elasticsearch·搜索引擎·全文检索
衡石科技3 小时前
HENGSHI ChatBI|不止智能问数,Agentic Analytics 重构经营分析全流程
大数据·重构·数据分析·产品运营·bi
小白说大模型3 小时前
基于 Qwen3.8-Max 构建 AI 合同精审系统:文档解析、多轮条款分析 Pipeline 工程实战
数据库·人工智能·spring·机器学习·自然语言处理
TheBestRucy3 小时前
Python九阳神功之陆:数据库持久化与缓存·乾坤大挪移
数据库·python·缓存
索西引擎4 小时前
基于 Docker 容器化的 MySQL 数据库部署与访问控制机制研究
数据库·mysql·docker
智讯阁4 小时前
能直接操作电脑的AI助手有哪些?AiPy、QoderWork、TRAE Work、WorkBuddy深度实测
大数据·人工智能
TDengine (老段)4 小时前
TDengine 内存管理 — 池化、缓存、回收
大数据·数据库·物联网·缓存·时序数据库·tdengine·涛思数据