KWDB 分布式架构探究——数据分布与特性

本期直播我们邀请到 KaiwuDB 高级研发工程师冯友旭为大家分享《KWDB 分布式架构探究------数据分布与特性》,点击下方视频观看完整版回放 ↓↓↓

KWDB 分布式架构探究------数据分布与特性

📌以下为重点内容节选,点击上方视频查看完整版内容。

背景介绍

数据分布在数据库中的作用至关重要,它直接影响到数据库系统的性能、可扩展性、可用性、管理效率和成本。特别是在处理海量数据和高并发请求的现代应用中,合理的数据分布策略是数据库架构设计的核心。本期直播重点讲解了数据分布在分布式数据库中的重要性、 KWDB 数据库分布式架构设计方案、特性及具体实践案例。

1. 数据分布概述

1.1 为什么考虑数据分布?

1.2 数据分布概述------分区方式

  • Hash 适合预分片,系统会更具确定性;Range 更依赖调度系统
  • Range 对范围查询很友好,Hash 范围查询基本等价于全表扫描
  • Range 对前缀查询很友好,实际上属于一种范围查询
  • Range 分区与 Hash 分区都能很好的解决数据分布热点问题

  • Range 在自增序列、时间等字段的写入容易导致热点,但可通过使用不自增的序列等方法规避

2. KWDB 数据分布概念及特性

2.1 KWDB 数据分布架构

  • 无中心透明式分布式

  • 分布式线性扩展

  • 一致性及可靠性保障

  • 多模数据分布(关系数据按 Range 进行分片;时序数据按时间戳 Hash 分布)

KWDB 数据分布架构图

2.2 KWDB 数据分布------数据分片 Range

数据分片 Range 的逻辑概念是数据的子集,代表数据分片/迁移及高可用操作的最小单元。

  • 分片的均衡情况影响查询&写入性能
  • 分片大小均衡粒度
  • 分片数量决定副本层并发

2.3 KWDB 数据分布------关系数据与时序数据

关系数据:按照 Key 进行的 Range 分布。

  • Key 由表 ID/主键(索引)进行构成
  • 使用 rocksdb 进行存储
  • 支持指定 Range 大小
  • 支持 Range 的 Split/Merge
  • 支持指定 Range 对应的副本数

时序数据:按照按照设备 Hash 进行的 Range 分布。

  • Key 由表 ID/设备/时间戳进行构成
  • 使用特殊的时序存储引擎进行存储
  • 支持指定 Range 大小以及 Range 的 Split/Merge,但在达到最大 HashPoint 或时间间隔后不再分裂
  • 支持指定 Range 对应的副本数

2.4 KWDB 时序数据分片------按照 Hash 环并引入时间分片

支持历史 Range 的 Merge 规则,通过 alter merge day 进行设置。

优势:

  • 保证 Range 数量控制在一定范围内,元数据可控
  • 历史 Range 大,但活跃 Range 分片小,更容易解决时序场景下的数据迁移和写热点问题
  • 支持冷热数据分片和分级存储

2.5 KWDB 时序数据写入流程

KWDB 时序数据写入流程

Hashpoint:根据 primaryTag 或 primaryTag/TimeStamp,通过 Hash (key)%HashNum 所计算出来的 Hash 值。

    1. 保证设备均匀打散
    1. 扩缩容和迁移场景避免重 Hash 过程

2.6 KWDB 数据分布特性------数据均衡(手动/自动)

sql 复制代码
ALTER {RANGE DEFAULT | DATABASE db_name | TABLE tb_name} CONFIGURE ZONE USING rebalance;

作用范围:

  • RANGE DEFAULT:全局时序表均衡

  • DATABASE:库级时序表均衡

  • TABLE:单表级均衡

KWDB 评分模型

KWDB 数据均衡方案

3. KWDB 数据分布实践

3.1 HashNum 及 Range Size

考虑元数据的膨胀系数以及集群的读写性能的稳定性。

建议:16C/32G 3 节点集群 Range 总数量不超过 1000 ,5 节点集群 Range 总数量不超过 3000,增加一个节点增加 Range 数量不超过 500。

KWDB 业务场景 HashNum 及 Range Size 计算示例

3.2 热点 Range 分析

优化策略:

  • 热点 Range Follower 查询,定义时序查询允许走 Follower Read

  • 支持手动 Range Split/Merge

  • 修改 Range 分区方案

  • 自定义数据固定

Range 统计 QPS/TPS

相关推荐
达梦数据2 小时前
达梦数据复制软件DMDRS搭建部署示例:源数据库DM8到目标数据库DM8双向数据同步
数据库
A-刘晨阳3 小时前
32 位 XID 的“狗皮膏药”被撕掉了:金仓 V9 的 64 位事务号实测与底层拆解
数据库
cspttty3 小时前
2026秋招数据审计岗能力栈:SQL、Excel、审计流程与数据治理
大数据·数据库
MayBaymax3 小时前
MongoDB 基础概念
java·数据库·mongodb
2601_962218613 小时前
万象生鲜系统多终端统一数据协议PC手机PDA数据实时同步
大数据·数据库·人工智能·python·算法
我滴老baby3 小时前
部署 Excalidraw:Docker 搭建手绘白板,再配置固定公网访问
数据库·人工智能·架构
程序猿乐锅3 小时前
【黑马点评 | 第四篇】Redis缓存雪崩
java·数据库·spring boot·redis·缓存
Sun 32854 小时前
集中式主备中,CM、OM 和 DN 是怎样协作的?
数据库·opengauss·cm·磐维数据库·集中式·om·dn
其实防守也摸鱼4 小时前
堆叠注入(Stacked Injection)详解
服务器·数据库·windows·https·ssl