计算机基础之:LSM树

使用过hbase、cassandra之类nosql数据库的小伙伴对LSM树结构应该有所耳闻,那么这种数据结构有哪些优劣势呢,本文做下简单介绍。

LSM(全称:Log-Structured Merge Tree)是一种广泛应用于现代数据库和存储系统的数据结构,尤其适合于写密集型应用场景。想象一下LSM如同一个高效的图书馆管理系统,我们通过它的优势与劣势来形象生动地描述这一概念。

优势:高效快速的图书归档与检索

  1. 高速录入:想象图书馆每天都要接收大量新书,LSM就像一个拥有高效自动分类机的图书馆,新书一到就立刻被贴上标签(日志记录),快速放入暂存区(内存表),无需立刻按索引整理到书架上(磁盘的有序数据结构),大大加快了书籍的录入速度,对应于数据库中的快速写入。

  2. 后台整理:到了夜深人静的时候,图书馆闭馆,LSM开始它的工作------将暂存区的书按照一定规则(合并策略)整理到书架上,这个过程称为合并(Merge),使得书架上的书籍有序,便于下次查找,对应于数据库在后台合并小文件,减少查询时的I/O操作。

  3. 高效查询:尽管书籍的最终位置可能在多次合并后才确定,但LSM通过维护一个指向书籍最新位置的索引(内存索引),让读者(查询)能迅速找到所需书籍,保证了查询的效率。

劣势:查找与空间的权衡

  1. 查询延迟:虽然有即时索引,但在极端情况下,如果一本书刚被借走(数据还未合并到磁盘的有序部分),读者可能需要在多个暂存区查找,增加了查询的复杂性和潜在延迟,就像读者需要翻阅多个书目清单才能找到书的新位置。

  2. 空间开销:LSM的后台合并过程会产生一定的空间冗余,就像图书馆在整理书籍时,旧的索引卡可能还在,新的索引卡已生成,这期间会有数据的重复存储。同时,频繁的合并操作也意味着更多的磁盘I/O操作,可能会影响整体的存储效率。

  3. 写放大:在数据从内存表迁移到磁盘的整个过程中,数据可能会被多次复制和合并,这就像书籍在从暂存区转移到书架的过程中,可能要经过几个中间的分类区域,增加了写操作的总量,即所谓的"写放大"。

综上所述,LSM如同一个高效但略显复杂的图书管理系统,它通过牺牲一定程度的查询效率和存储空间,换取了极高的数据写入速度,特别适合那些需要快速处理大量写入请求的场景,如在线日志处理、大数据存储等。

相关推荐
Nturmoils1 分钟前
WHERE 条件别凭习惯写,常用查询先跑一遍
数据库
Databend21 小时前
在 AWS 中国峰会逛了一天,我在 Databend 展台看到了 Agent 数据基础设施的新思路
数据库·人工智能·agent
ClouGence2 天前
Oracle 数据同步为什么会出现数据不一致?长事务是常被忽略的原因
数据库·后端·oracle
飞将2 天前
从零实现数据库(2)——HashIndex + IndexManager
数据库
Nturmoils3 天前
订单列表慢查询,先看 WHERE、ORDER BY 和 LIMIT
数据库
渣波3 天前
拒绝 SQL 焦虑!手把手带你用 NestJS + Prisma + DTO 写出“防弹”级后端代码
javascript·数据库·后端
大大大大晴天3 天前
Hudi技术内幕:RecordPayload到RecordMerger
大数据
SelectDB4 天前
秒级弹性、最高降本 70%:SelectDB Serverless 如何重塑云数仓资源效率
大数据·后端·云原生
WhoAmI4 天前
MapReduce框架原理解析一:InputFormat
大数据·hadoop
WhoAmI4 天前
MapReduce框架原理解析三:OutputFormat
大数据·hadoop