大数据面试题之HBase(3)

HBase的预分区

HBase的热点问题

HBase的memstore冲刷条件

HBase的MVCC

HBase的大合并与小合并,大合并是如何做的?为什么要大合并

既然HBase底层数据是存储在HDFS上,为什么不直接使用HDFS,而还要用HBase

HBase和Phoenix的区别

HBase支持SQL操作吗

HBase适合读多写少还是写多读少

HBase表设计

Region分配

HBase的Region切分


HBase的预分区

HBase的预分区(Pre-Splitting)是一种优化手段,用于在创建表时提前规划好表的分区结构,以减少数据写入过程中自动分区(Region Split)所带来的资源消耗和性能影响。预分区特别适用于预期会有大量数据写入的新表,通过预设分区,可以使得数据分布更加均匀,提升写入和查询性能。

1、预分区的目的:

  1. 减少Region Split:自动Region分裂过程会消耗CPU、I/O等资源,预分区可以减少分裂操作的发生频率,从而减轻系统负担。

  2. 优化数据分布:通过预分区,可以根据业务需求和数据分布特性,手动定义初始的Region分布,使得数据在一开始就较为均衡地分布在不同Region上。

  3. 提升性能:减少分裂操作可以降低对HBase集群的性能冲击,尤其是在数据批量导入或高写入速率场景下,预分区能显著提升写入速度和整体服务稳定性。

2、如何进行预分区:

  1. 确定分区数:首先,根据预期数据量和数据分布特性估算所需的Region数量。

  2. 指定分区点:选择合适的RowKey范围作为预分区的边界。这些边界值(Split Keys)应能均匀地将数据分割开,确保数据写入时能均衡分布。

  3. 创建表时指定预分区:在使用HBase shell或编程API创建表时,通过SPLITS参数指定预分区的边界值。例如,在HBase shell中,命令可能是这样的:

create 'my_table', 'cf', SPLITS => ['key1', 'key2', ..., 'keyN']

这里,'key1'至'keyN'是预定义的RowKey值,用于分割表。

  1. 调整配置:有时,为了配合预分区策略,可能还需要调整HBase的相关配置,比如hbase.hregion.max.filesize,该配置决定了单个Region的最大文件大小,超过此大小时会触发分裂。

注意事项:

预分区是一种静态配置,对于数据增长模式难以预测或数据分布随时间变化的情况,可能需要定期评估和调整预分区策略。

预分区策略应当基于对数据特性的深入了解,包括数据量、访问模式、RowKey设计等因素。

过度预分区可能会导致Region数量过多,增加维护成本和查找时间,因此需要合理规划。

HBase的热点问题

HBase的热点问题通常指在某些特定区域或RegionServer上过度集中的读写操作,导致这些区域或服务器成为性能瓶颈,甚至引发单点故障。热点问题可能导致资源利用不均,降低HBase集群的整体性能和可用性。以下是关于HBase热点问题的详细分析:

一、产生原因

  1. 没有提前创建分区:当HBase表创建时,如果没有提前进行预分区,默认情况下只有一个Region,所有的RowKey都写入到这个Region中,导致该Region所在的RegionServer承受过大的压力。

  2. RowKey设计不合理:如果RowKey的设计使得大量的数据写入到同一个Region中,或者使得某个Region的读写请求远超过其他Region,就会形成热点问题。例如,如果RowKey按照时间戳递增生成,并且查询也主要基于时间范围,那么最新的数据就会集中写入到同

一个Region中。

二、解决方案

  1. 预分区(Pre-splitting):在创建HBase表时,根据数据的访问模式和查询需求,提前将表进行分区。通过指定Region的起始和结束RowKey,将数据分散到不同的RegionServer上,从而避免热点问题。

  2. 合理设计RowKey:RowKey的设计应该使得数据在分布式存储中能够均匀分布。可以通过在RowKey中引入随机前缀、散列函数等方式来实现。例如,可以将时间戳反转、添加用户ID等作为RowKey的一部分,以减少数据倾斜。

  3. 批量写入和读取:使用HBase的批量写入和读取接口,可以减少网络传输和I/O开销,提高性能。在写入数据时,可以将多个写入操作合并为一个批量写入操作;在读取数据时,可以将多个读取操作合并为一个批量读取操作。

  4. 压缩和缓存:使用HBase的数据压缩功能可以减少数据在存储和传输过程中的大小,降低I/O开销。同时,通过合理配置HBase的缓存参数,将热点数据和频繁访问的数据缓存在内存中,可以减少磁盘读取的开销。

  5. 使用Bloom Filter和Block Cache等技术:Bloom Filter可以减少不必要的磁盘读取操作,提高查询效率;Block Cache可以将数据块缓存在内存中,提高数据访问速度。

HBase的memstore冲刷条件

HBase的MemStore冲刷(Flush)是将内存中的数据写入磁盘的过程,以确保数据的持久化并控制内存使用。MemStore冲刷主要受以下条件触发:

1、MemStore大小限制:

当某个MemStore的大小达到配置的阈值 hbase.hregion.memstore.flush.size(默认值通常是128MB),该MemStore将会被刷写到

磁盘。这表示只要MemStore中存储的数据量达到了这个设定值,就会触发刷写操作。

2、RegionServer内存使用率:

当RegionServer中所有MemStore的总大小达到堆内存的一定比例(默认情况下,当达到

hbase.regionserver.global.memstore.upperLimit 的值,默认为0.40,即40%),HBase会开始阻塞写操作,并按照各个Region的MemStore大小(从大到小)顺序进行刷写,直到总MemStore大小降到 hbase.regionserver.global.memstore.lowerLimit(默认值0.95,即95%)以下。这一过程是为了防止内存溢出,确保系统的稳定运行。

3、手动触发:

管理员可以通过命令行工具或API手动触发MemStore的刷写,这在需要立即释放内存或进行维护操作时非常有用。

4、定期刷写:

虽然不是标准配置中的直接条件,但在某些应用场景中,可能会设置定时任务以周期性地触发MemStore的刷写,以满足特定的维护或性能需求。

5、系统负载或资源压力:

在一些实现或配置中,如果系统检测到资源紧张(如CPU、I/O带宽等),可能会触发刷写操作以减轻系统压力,尽管这不是HBase直接规定的标准刷写条件。

HBase的MVCC

HBase的MVCC(Multi-Version Concurrency Control,多版本并发控制)是用于解决读写一致性问题的一种机制,它允许在并发环境下进行高效的读写操作,同时保证数据的一致性。以下是关于HBase MVCC的详细解释:

1、MVCC的基本原理

  1. 多版本控制:MVCC通过保留数据的多个版本来解决并发读写时可能产生的冲突。每个事务在读取数据时,都会看到一个一致性的数据快照,这个快照基于该事务开始时的数据版本。

  2. 读写不阻塞:在MVCC机制下,读操作不会阻塞写操作,写操作也不会阻塞读操作。多个事务可以同时进行读写操作,提高了系统的并发性能。

2、HBase中MVCC的实现

  1. 版本控制:HBase使用毫秒级时间戳作为数据的版本标识。每次数据更新时,都会生成一个新的版本,并将旧版本保留下来。读操作可以根据需要读取指定版本的数据。

  2. 写操作流程:

HRegion级别的seqID自增加一,并且当前writeNo设为seqID + 1亿(这个大数的意义是防止别的写操作提交时把readNo提高了,导致当前writeNo成为一个可读状态的id,后面会将其设回正常的seqID)。

把当前的写操作的一个包含seqID的dummy对象WriteEntry加进队列。

对于实际写操作本身,先写memstore,再写WAL(Write-Ahead Logging,预写日志),如果中间失败则回滚,否则则当做成功继续执行。

写请求提交实际上就是把当前HRegion级别的readNo设为队列中已完成的写请求的seqID最大值,表示seqID以下的写请求都处理完了,可读。

  1. 读操作流程:

每个读操作开始都分配一个读序号,也称为读取点(readPoint)。

读取点的值是所有的写操作完成序号中的最大整数(所有的写操作完成序号<=读取点)。

对某个(row, column)的读取操作r来说,结果是满足写序号为"写序号<=读取点这个范围内"的最大整数的所有cell值的组合。

2、MVCC的优势

提高并发性能:通过多版本控制和读写不阻塞的特性,MVCC可以显著提高HBase的并发性能。

保证数据一致性:MVCC通过保留数据的多个版本来解决并发读写时可能产生的冲突,从而保证了数据的一致性。

注意事项

MVCC虽然可以提高并发性能和数据一致性,但也会增加存储空间的开销,因为需要保留数据的多个版本。因此,在使用MVCC时需要根据实际情况进行权衡。

HBase的MVCC实现是在HRegion级别的,因此不同Region之间的数据读写不会相互干扰。但需要注意的是,如果某个Region的数据量过大或读写请求过于集中,可能会导致该Region成为性能瓶颈。此时可以通过预分区、负载均衡等技术手段来优化性能。

HBase的大合并与小合并,大合并是如何做的?为什么要大合并

大合并(Major Compaction)如何进行:

1、触发时机:

  • 大合并可以手动触发,通过HBase Shell、Master UI界面或HBase API执行major_compact命令。
  • 也可以根据配置自动触发,但通常大合并的自动执行周期较长,比如一周一次,因为其资源消耗较大。
  • 在一些场景下,管理员可能会禁用自动大合并,仅在低负载时段通过脚本手动执行,以减少对集群的影响。

2、执行过程:

  • 大合并会将一个Region下的所有StoreFile(即属于同一列族的所有HFile)合并成一个或少数几个较大的StoreFile。
  • 在合并过程中,HBase会检查每个记录的版本和时间戳,删除那些被标记为删除或已过期的数据(即带有墓碑标记的记录),从而释放存储空间。
  • 合并后,旧的HFile将被废弃,新的、更紧凑的HFile将替代它们,减少了文件总数,提升了查询效率。

为什么需要大合并:

1、优化查询性能:

  • 大合并减少了存储在磁盘上的HFile数量,使得查询时需要打开和遍历的文件减少,从而加快查询速度。
  • 通过删除无效数据,确保查询返回的是最新或有效版本的数据,避免了读取到已删除或过期记录。

2、节省存储空间:

  • 删除不再需要的数据,如已标记删除的记录和过期的版本,能够有效回收存储空间。
  • 合并成更少、更大的文件减少了存储碎片,进一步提高了空间利用率。

3、维护数据一致性:

  • 确保数据的一致性,避免在多次小合并后,仍存在大量冗余或无效数据。

尽管大合并带来了许多好处,但它也是一把双刃剑,因为合并过程会占用大量的I/O资源和磁盘空间(临时空间),可能导致在合并期间集群的读写性能下降。因此,大合并的执行通常需要精心规划,以最小化对在线服务的影响。

既然HBase底层数据是存储在HDFS上,为什么不直接使用HDFS,而还要用HBase

虽然HBase确实依赖HDFS作为其底层存储系统,但HBase提供的功能远超出了单纯文件存储的范畴,它针对特定的应用场景和需求进行了专门设计,补充了HDFS在某些方面的能力不足。以下是HBase相比于直接使用HDFS的一些关键优势:

实时读写能力

HBase是一个列式存储的NoSQL数据库,设计目标之一是提供低延迟的随机读写访问。相比HDFS更适合批量处理和大规模数据分析,HBase能够支持实时数据查询和更新,适用于需要快速响应的在线应用。

数据模型

HBase提供了丰富的数据模型,包括列族(Column Families)、列限定符(Column Qualifiers)和时间戳(Timestamps),使得数据结构更加灵活,便于处理半结构化和非结构化的数据。而HDFS主要是面向大规模的文件存储,没有内置复杂的数据模型。

事务和一致性

HBase支持原子性操作和一定程度的事务处理能力,如行级事务,确保数据更新的一致性。虽然不如传统关系型数据库的ACID特性强大,但对于很多应用场景来说已经足够。

自动分区和扩展性

HBase通过Region自动分裂和负载均衡机制,能够水平扩展以应对数据量的增长。用户无需手动管理数据分布,HBase会根据数据量和负载情况自动调整。

索引和查询优化

HBase内部实现了多种优化机制,如Block Cache、Bloom Filters等,提高了查询效率。虽然HDFS可以存储大量数据,但它本身并不提供高效的索引机制来加速数据检索。

易用性接口

HBase提供了易于使用的API和Shell工具,使得数据的插入、查询、删除等操作更为便捷。同时,HBase还可以与Hadoop生态系统中的其他工具如MapReduce、Pig、Hive等集成,便于进行复杂的数据处理。

简而言之,HBase在HDFS的基础上构建了一层数据库抽象,旨在解决大数据场景下的实时读写、灵活数据模型、复杂查询等需求,它使得开发人员能够以更数据库化的方式操作数据,而不必直接处理底层文件存储的复杂性。

HBase和Phoenix的区别

HBase和Phoenix在功能、用途和架构上存在明显的区别。以下是关于两者区别的详细解释:

  1. 定义与用途

HBase:

定义:HBase是基于Hadoop的分布式、面向列的开源数据库,主要用于海量数据的存储和处理。

用途:适用于持久化存储大量数据(TB、PB级别),对扩展伸缩性有要求,需要良好的随机读写性能,以及处理结构化和非结构化的数据。

局限性:不支持复杂的事务处理,不支持SQL查询(但可以通过Phoenix等中间件解决)。

Phoenix:

定义:Phoenix是构建在HBase之上的开源SQL层,允许用户使用标准的JDBC API来建表、插入数据和查询HBase中的数据。

用途:通过Phoenix,用户可以避免直接使用HBase的客户端API,从而简化开发过程。Phoenix支持SQL查询,包括JOIN操作,使得HBase数据更容易被查询和分析。

  1. 数据存储与访问

HBase:

数据存储:数据存储在Hadoop的分布式文件系统HDFS中,通过Row Key进行分区,并将不同的Row Key存储在不同的Region中。

数据访问:使用HBase提供的API进行数据读写操作,支持基于列族和列名的多维度数据查询。

Phoenix:

数据存储:虽然数据存储在HBase中,但Phoenix将数据模型映射到关系型世界,使得用户可以使用SQL语言来查询HBase数据。

数据访问:通过标准的JDBC API进行数据访问,支持SQL查询,包括JOIN操作。

  1. 架构与特性

HBase:

架构:采用分布式架构,将数据分散存储在多台机器上,以实现数据的无限扩展。采用Master-Slave架构,其中Master负责对数据进行管理和协调,而Slave负责存储和读写数据。

特性:高可扩展性、高可用性、高性能、分布式存储和查询等特点。

Phoenix:

架构:作为HBase的SQL层,Phoenix在HBase之上提供了一个SQL接口,使得用户可以使用SQL语言来查询HBase数据。

特性:支持SQL查询,包括JOIN操作;容易集成其他工具,如Spark、Hive、Pig等;将SQL查询编译为HBase扫描,以优化查询性能。

  1. 使用方式与性能

HBase:

使用方式:需要使用HBase提供的API进行数据操作,对开发者有一定的学习成本。

性能:直接操作HBase数据,性能较高,但复杂查询可能需要额外的处理。

Phoenix:

使用方式:使用标准的JDBC API和SQL语言进行数据操作,降低了开发门槛。

性能:通过优化SQL查询和编译为HBase扫描,提高了查询性能,特别是对于复杂查询和JOIN操作。

综上所述,HBase和Phoenix在数据存储、访问方式、架构和特性等方面存在明显的区别。选择使用哪个取决于具体的应用场景和需求。如果需要高性能的数据存储和随机读写能力,可以选择HBase;如果需要支持SQL查询和简化开发过程,可以选择Phoenix。

HBase支持SQL操作吗

HBase本身并不直接支持标准的SQL操作。HBase是一个基于列族的NoSQL数据库,它使用HBase查询语言(HBaseQL)来与数据进行交互,这种查询语言专注于键值对操作,与SQL有显著区别。

然而,想要使用SQL语法操作HBase,可以借助以下几种方式:

1、Apache Phoenix:

Phoenix是一个构建在HBase之上的开源项目,它提供了一个JDBC驱动,允许用户使用SQL查询来操作HBase。Phoenix将SQL查询转换为HBase的原生API调用,支持包括DML(数据操作语言)和DDL(数据定义语言)在内的多种SQL操作,并且还支持二级索引等功能,大大增强了HBase的查询能力。

2、Hive和Impala:

可以通过将HBase表映射为Hive外部表来间接使用SQL查询HBase。Hive支持将HBase表作为数据源,利用HiveQL执行查询,但请注意,这种方式通常更适合批处理查询,因为其查询引擎基于MapReduce,可能不适合低延迟需求。Impala则提供了更接近实时的SQL查询能力,通过直接访问HDFS数据,能够提供比Hive更快的查询响应时间,但同样需要预先设置Hive外部表与HBase的映射。

3、阿里云Lindorm等云服务:

一些云服务提供商,如阿里云的Lindorm,提供了对HBase的增强版本,其中包含了直接使用SQL操作HBase表的功能。这些服务通过特定的SQL兼容层或列映射功能,使得用户能够以SQL方式与HBase数据进行交互。

综上所述,虽然HBase本身不直接支持SQL,但通过上述工具和方法,用户依然能够以SQL的形式来操作HBase数据,从而降低了学习曲线,提高了开发效率,特别是对于熟悉SQL的开发者而言。

HBase适合读多写少还是写多读少

HBase本身并没有明确地被设计为只适合读多写少或写多读少的场景,而是根据具体的应用需求和工作负载来决定的。然而,由于HBase是基于Hadoop的分布式、面向列的数据库,它在某些方面对读多写少的工作负载更为友好。

以下是为什么HBase在某些情况下可能更适合读多写少的工作负载的原因:

1、数据一致性:HBase提供的是最终一致性模型,而不是强一致性模型。这意味着写入操作可能不会立即对所有读取操作可见,因为数据在集群中需要一定的时间进行复制和同步。在读多写少的场景下,写入操作相对较少,因此这种延迟通常是可以接受的。

2、写操作的开销:在HBase中,写入操作通常需要涉及多个组件,如WAL(Write-Ahead Logging,预写日志)、MemStore和HDFS等。这些操作可能需要消耗更多的资源和时间,尤其是在高写入负载下。因此,在写多读少的场景下,写入操作的开销相对较小,不会对系统性能产生太大影响。

3、数据压缩和编码:HBase支持多种数据压缩和编码技术,这些技术可以在存储数据时减少数据的体积并提高读取性能。在读多写少的场景下,由于读取操作更加频繁,因此数据压缩和编码技术可以更加有效地提高读取性能。

4、缓存机制:HBase利用块缓存(BlockCache)来缓存热点数据,以提高读取性能。在读多写少的场景下,热点数据更容易被缓存并频繁访问,从而进一步提高读取性能。

然而,需要注意的是,HBase也支持高写入负载的场景。通过优化写入策略、调整配置参数和使用合适的写入工具(如BulkLoad),HBase可以处理大量的写入操作。此外,HBase还支持事务性写入(通过Phoenix等中间件),可以在一定程度上保证写入操作的一致性和可靠性。

因此,HBase是否适合读多写少或写多读少的场景取决于具体的应用需求和工作负载。在选择使用HBase时,应该根据应用的实际情况进行评估和测试,以确定最佳的配置和策略。

HBase表设计

HBase表设计是关键的一步,它直接影响到数据的存储效率、查询性能以及系统的可扩展性。以下是一些基本的设计原则和最佳实践:

  1. 表格模型理解

行键(Row Key):是HBase表中最重要的设计元素,直接影响查询性能。理想的行键应该是唯一且能按时间或逻辑顺序排列,以利用HBase的排序特性。设计时考虑前缀扫描和范围扫描的需求。

列族(Column Family):每个列族中的数据存储在一起,拥有相同的存储和缓存策略。应谨慎选择列族,过多的列族会增加存储开销,因为每个列族都有独立的文件存储。一般不超过3-4个列族。

列限定符(Column Qualifier):列族内的具体列,设计时可以灵活多变,不需要预先定义。

  1. 行键设计

时间反序:如果数据有时间属性,可以考虑将时间戳作为行键的一部分,并将其置于行键末尾,这样可以优化最近数据的查询。

散列:如果单个键值范围过大,可以使用散列函数缩短行键长度,但需权衡查询效率。

组合键:结合多个字段生成行键,如用户ID+时间戳,既能保证唯一性,又利于范围查询。

  1. 列族设计

减少列族数量:尽量减少列族数量,因为每个列族的元数据都会在内存中缓存,列族过多会增加内存负担。

访问模式匹配:根据访问频率和数据特性划分列族,频繁一起读取的列应放在同一列族中,以便于缓存优化。

  1. 版本控制

合理设置版本数量:通过VERSIONS属性控制每个单元格存储的版本数,根据业务需求设置,避免无限制增长导致的空间浪费。

  1. 时间戳

利用时间戳:HBase自动为每个单元格记录时间戳,可以利用此特性进行数据的历史版本管理或数据更新。

  1. 预分区

预分区:对于大量数据的表,预创建多个Region可以提高写入性能和数据分布的均匀性。

  1. 数据压缩

启用压缩:根据数据类型选择合适的压缩算法,如Snappy、GZ等,可以在不牺牲太多性能的情况下减少存储空间。

  1. 性能考量

避免全表扫描:尽可能设计数据模型以支持行键或部分行键查询,减少全表扫描操作。

缓存策略:合理配置Block Cache和MemStore,以提升热点数据的访问速度。

  1. 扩展性和维护

设计可扩展的表结构:考虑到数据量的增长和查询模式的变化,表结构应具有一定的灵活性和扩展性。

监控和调优:定期审查表设计并根据实际运行情况进行调优,利用HBase提供的监控工具分析性能瓶颈。

综上,HBase表设计是一个综合考量性能、扩展性和业务需求的过程,需要在实践中不断调整和完善。

Region分配

在HBase中,Region的分配是一个动态过程,它涉及到表的创建、数据负载均衡以及Region服务器故障恢复等多种情况。以下是关于HBase Region分配的主要特点和过程的详细解释:

  1. Region的定义与功能

定义:HBase中的数据表被分割为多个水平切片,每个切片被称为一个Region。

功能:Region是HBase中数据存储和管理的基本单元,每个Region存储特定范围的行键数据。

  1. 初始Region分配

当用户创建一个新的HBase表时,系统会自动分配一些初始的Region。

初始Region的数量和范围由系统内置的预分配策略决定。

  1. 负载均衡与Region重新分配

目的:为了实现数据的负载均衡,HBase会定期执行Region的重新分配。

过程:

监控各个RegionServer的负载情况,包括Region数量和数据大小。

如果某个RegionServer上的Region过多,HBase会尝试将一部分Region迁移到相对空闲的RegionServer上。

如果某个RegionServer上的Region过少,HBase会尝试从其他RegionServer上迁移一些Region过来以实现负载均衡。

负载均衡频率:这些负载均衡的操作是透明的,用户无需干预,HBase会定期(例如每五分钟)进行检查和调整。

  1. 故障恢复与Region分配

当一个RegionServer出现故障时,HBase会进行相应的故障恢复操作。

故障恢复的主要目标是将故障的RegionServer上的Region重新分配到其他正常的RegionServer上。

HBase检测到故障的RegionServer。

将该RegionServer上的所有Region标记为不可用。

根据负载情况,在其他正常的RegionServer上重新分配这些Region。

客户端会被通知新的RegionServer位置,以便继续访问数据。

  1. Region分配策略与配置

HBase提供了多种Region分配策略,例如ConstantSizeRegionSplitPolicy、IncreasingToUpperBoundRegionSplitPolicy、SteppingSplitPolicy等,这些策略决定了Region的分裂时机和方式。

用户可以通过调整HBase的配置参数来影响Region的分配和分裂行为,以优化系统的性能和稳定性。

  1. 注意事项

Region的分配和分裂是HBase自动管理的,但在某些情况下,如数据倾斜或特定查询模式,可能需要手动干预或调整配置参数以达到最佳性能。

合理地设计表的行键和预分区策略,以及合理地配置Region的分裂阈值等参数,都可以对Region的分配和性能产生积极影响。

HBase的Region切分

HBase的Region切分是HBase分布式存储系统中的重要机制,它确保了数据的均衡分布和查询性能的优化。以下是关于HBase Region切分的详细解释:

  1. Region切分的定义

Region是HBase中数据存储的基本单位,每个Region包含一定范围的行数据。随着数据的不断写入,当Region的大小超过一定阈值时,HBase会触发Region的切分操作,将一个大的Region拆分成两个或多个更小的Region。

  1. Region切分的触发策略

HBase提供了多种Region切分的触发策略,这些策略决定了何时以及如何触发Region的切分。以下是几种常见的切分策略:

ConstantSizeRegionSplitPolicy:这是HBase早期版本的默认切分策略。当Region的大小超过一个固定的阈值(例如10GB)时,会触发切分操作。然而,这种策略没有考虑到不同表或不同Region之间的数据差异,可能导致在某些情况下切分不够合理。

IncreasingToUpperBoundRegionSplitPolicy:这是HBase后续版本中引入的切分策略,也是当前版本的默认策略。它根据RegionServer上Region的数量动态调整切分的阈值。当Region数量较少时,切分阈值也较低;随着Region数量的增加,切分阈值也逐渐增加,但不会超过一个设定的上限值。这种策略能够更好地适应不同数据量和工作负载的情况。

SteppingSplitPolicy:这是HBase 2.0版本引入的切分策略。它的切分阈值规则与IncreasingToUpperBoundRegionSplitPolicy类似,但更加简化。如果RegionServer上只有一个Region,则切分阈值为MemStore的刷写大小的两倍;否则,切分阈值为设定的最大Region文件大小。

  1. Region切分的具体操作

当触发Region切分时,HBase会执行以下操作:

准备阶段:在内存中初始化两个子Region,生成对应的HRegionInfo对象,并创建一个transaction journal来记录切分的进展。

执行阶段:

更改ZooKeeper中Region的状态为SPLITTING。

HBase Master检测到状态变化后,修改内存中Region的状态,并在RIT(Region In Transition)模块中显示Region执行切分的状态信息。

在父Region的存储目录下创建临时文件夹.split,保存切分后的子Region信息。

关闭父Region的数据写入并触发flush操作,将内存中的数据持久化到磁盘。

在.split文件夹下创建两个子文件夹(daughter A和daughter B),并生成reference文件指向父Region中的对应文件。

将daughter A和daughter B拷贝到HBase的根目录下,形成两个新的Region。

父Region通知修改hbase.meta表后下线,不再提供服务。

开启daughter A和daughter B两个子Region,并通知修改hbase.meta表,正式对外提供服务。

回滚阶段:如果执行阶段出现异常,则执行回滚操作,清理相关的垃圾数据。

  1. 注意事项

Region的切分是HBase自动管理的,但在某些特殊情况下,如数据倾斜或特定查询模式,可能需要手动干预或调整切分策略。

合理地设置切分策略的参数,如最大Region文件大小等,可以影响Region的切分行为和系统的性能。

频繁的Region切分可能会导致额外的I/O和CPU开销,因此需要权衡切分的频率和系统的性能需求。

引用:https://www.nowcoder.com/discuss/353159520220291072

通义千问、文心一言

相关推荐
gma9991 小时前
Etcd 框架
数据库·etcd
爱吃青椒不爱吃西红柿‍️1 小时前
华为ASP与CSP是什么?
服务器·前端·数据库
PersistJiao1 小时前
在 Spark RDD 中,sortBy 和 top 算子的各自适用场景
大数据·spark·top·sortby
2301_811274311 小时前
大数据基于Spring Boot的化妆品推荐系统的设计与实现
大数据·spring boot·后端
Yz98761 小时前
hive的存储格式
大数据·数据库·数据仓库·hive·hadoop·数据库开发
青云交1 小时前
大数据新视界 -- 大数据大厂之 Hive 数据导入:多源数据集成的策略与实战(上)(3/ 30)
大数据·数据清洗·电商数据·数据整合·hive 数据导入·多源数据·影视娱乐数据
武子康1 小时前
大数据-230 离线数仓 - ODS层的构建 Hive处理 UDF 与 SerDe 处理 与 当前总结
java·大数据·数据仓库·hive·hadoop·sql·hdfs
武子康2 小时前
大数据-231 离线数仓 - DWS 层、ADS 层的创建 Hive 执行脚本
java·大数据·数据仓库·hive·hadoop·mysql
苏-言2 小时前
Spring IOC实战指南:从零到一的构建过程
java·数据库·spring
Ljw...2 小时前
索引(MySQL)
数据库·mysql·索引