Elasticsearch

目录

[1. 什么是 Elasticsearch?](#1. 什么是 Elasticsearch?)

[2. 与关系型数据库的对比](#2. 与关系型数据库的对比)

[3. 倒排索引](#3. 倒排索引)

[4. 为什么倒排索引如此高效?](#4. 为什么倒排索引如此高效?)


1. 什么是 Elasticsearch?

Elasticsearch 是一个开源的、分布式的、基于 RESTful API 的搜索和分析引擎。它建立在 Apache Lucene 搜索引擎库之上,提供了全文搜索、结构化搜索、分析以及三者结合的能力。

核心特点:

  • 分布式和高可用性: 数据被分片并分布在多个节点上,支持故障转移和扩展。

  • 近实时搜索: 数据从被索引到可搜索只有轻微的延迟(通常为 1 秒)。

  • RESTful API: 使用标准的 HTTP 方法(GET, POST, PUT, DELETE)进行所有操作,交互非常简单。

  • 面向文档: 存储的是复杂的结构化数据,序列化为 JSON 格式。

  • 模式自由(Schema-less): 无需预先定义数据结构(Schema),可以自动推断数据类型。但也支持明确定义模式以优化性能。

2. 与关系型数据库的对比

特性 Elasticsearch 关系型数据库(如 MySQL)
目的 搜索和分析 事务性数据存储(ACID)
数据模型 面向文档(JSON) 基于表和行
查询语言 RESTful API / Query DSL SQL
事务性 弱(非核心设计目标) 强(ACID)
扩展性 水平扩展(分布式) 通常垂直扩展,水平扩展较复杂
一致性 最终一致性(近实时) 强一致性

3. 倒排索引

正排索引 就是直接记录每个文档包含了什么内容。它的结构是 "文档 -> 内容"

倒排索引 则完全颠倒了这个关系。它记录的是 "单词 -> 出现在哪些文档中"

它主要包含两部分:

  1. 词项字典: 一个包含所有不重复单词(经过分词处理)的列表,也称为"词项"。

  2. 倒排列表: 对于每个词项,记录它出现在哪些文档中,以及出现的频率、位置等信息。

倒排索引 是一种将内容中的词项映射到包含它的文档 的数据结构。这种"从关键词到文档"的逆向思维,是 Elasticsearch 实现毫秒级全文搜索的基石。

4. 为什么倒排索引如此高效?

  1. 预先计算: 搜索所需的结果(词项 -> 文档的映射关系)在索引阶段就已经计算好并存储了下来。搜索时几乎是直接"查表",避免了实时遍历大量数据。

  2. 易于压缩: 倒排列表中的文档 ID 列表通常是排序好的数字,可以使用高效的压缩算法(如帧间隔编码)来减少磁盘占用和内存消耗。

  3. 适合缓存: 常用的搜索词项及其对应的倒排列表可以缓存在内存中,使得高频搜索的速度极快。

相关推荐
洛森唛4 小时前
Elasticsearch DSL 查询语法大全:从入门到精通
后端·elasticsearch
字节跳动数据平台8 小时前
代码量减少 70%、GPU 利用率达 95%:火山引擎多模态数据湖如何释放模思智能的算法生产力
大数据
得物技术10 小时前
深入剖析Spark UI界面:参数与界面详解|得物技术
大数据·后端·spark
武子康11 小时前
大数据-238 离线数仓 - 广告业务 Hive分析实战:ADS 点击率、购买率与 Top100 排名避坑
大数据·后端·apache hive
武子康1 天前
大数据-237 离线数仓 - Hive 广告业务实战:ODS→DWD 事件解析、广告明细与转化分析落地
大数据·后端·apache hive
大大大大晴天1 天前
Flink生产问题排障-Kryo serializer scala extensions are not available
大数据·flink
Elasticsearch2 天前
如何使用 Agent Builder 排查 Kubernetes Pod 重启和 OOMKilled 事件
elasticsearch
Elasticsearch3 天前
通用表达式语言 ( CEL ): CEL 输入如何改进 Elastic Agent 集成中的数据收集
elasticsearch
武子康3 天前
大数据-236 离线数仓 - 会员指标验证、DataX 导出与广告业务 ODS/DWD/ADS 全流程
大数据·后端·apache hive
武子康4 天前
大数据-235 离线数仓 - 实战:Flume+HDFS+Hive 搭建 ODS/DWD/DWS/ADS 会员分析链路
大数据·后端·apache hive