ElasticSearch - 理解doc Values与Inverted Index倒排索引

文章目录


概述

在使用 Elasticsearch 进行大规模搜索和数据分析时,doc_values倒排索引 是两个非常重要但又截然不同的概念。

它们都在不同的场景下发挥着关键作用,因此理解它们的区别和联系,对于优化搜索和分析性能至关重要。


倒排索引:从图书馆的索引卡片谈起

想象一下,你走进一个图书馆,想找一本书。每本书都有不同的内容,但你只关心其中的一些特定关键词。为了让你快速找到所有包含这些关键词的书籍,图书馆的工作人员制作了一个索引卡片系统:

  1. 每个卡片上写着一个关键词(例如:"Elasticsearch","数据库","搜索引擎"等)。
  2. 索引卡片上列出了所有包含该关键词的书籍编号。

通过这个系统,你不需要翻遍所有的书籍,只要查看每个关键词对应的卡片,就能快速找到包含该关键词的书籍。这种快速查找的方式,就是 倒排索引

倒排索引的工作原理

倒排索引是 Elasticsearch 的核心数据结构之一,专门为文本搜索优化。在倒排索引中,每个词项(Term)都会被映射到一个包含该词项的文档列表,实现了基于内容的快速查找。

例如:

  • 对于关键词 "Elasticsearch",倒排索引记录了所有包含 "Elasticsearch" 词语的文档。
  • 当用户搜索某个词(如 "Elasticsearch")时,系统可以直接根据倒排索引找到所有包含该词的文档,而不必扫描整个数据集。

倒排索引特别适合处理文本数据,尤其是支持全文搜索、词频分析等操作。


docValues:从数据库的列式存储说起

想象你正在处理一张数据库表格,表格中有若干列,每列存储不同类型的数据,比如日期、数字、文本等。假设你要进行如下操作:

  • 按照某个数字字段(如订单金额)进行排序。
  • 按照某个时间字段(如订单日期)进行聚合(例如,统计某个月的销售总额)。

为了高效地执行这些操作,数据库通常会将字段数据按列存储,而不是按行存储。这种按列存储的方式称为 列式存储 ,而 Elasticsearch 中的 doc_values 就是采用了类似的列式存储方式。

docValues的工作原理

doc_values 是 Elasticsearch 为了优化排序、聚合和脚本计算而设计的存储结构。它将每个文档的字段值存储为列式数据,并且对字段的每个值进行排序,方便后续对这些字段进行高效操作。

举个例子,假设你有一个包含日期字段的文档集合。通过 doc_values,Elasticsearch 会将所有日期值按列存储,并提供优化的数据访问模式。这使得基于日期的排序和聚合操作变得非常高效。

docValues与倒排索引的对比

特性 倒排索引 docValues
存储方式 按词项存储:每个词项指向包含它的文档 按字段存储:将字段值按列存储,便于聚合和排序
优化目的 优化全文搜索和词项匹配 优化排序、聚合和脚本计算
适用场景 主要用于文本数据,特别是用于支持快速查询和匹配 主要用于数值型、日期、关键字等字段,优化排序和聚合
查询效率 高效的全文搜索,快速找到包含特定词项的文档 高效的排序和聚合操作,尤其是大数据量时

两者的联系:组合使用,优化搜索与分析

虽然 倒排索引doc_values 解决的是不同类型的问题,但它们可以结合使用,在 Elasticsearch 中发挥强大的性能。

  1. 全文搜索与高效聚合的结合 :倒排索引适用于快速查找包含某个词项的文档,而 doc_values 则专门优化数值型字段(如时间、金额等)的排序和聚合操作。在实际应用中,倒排索引和 doc_values 可以共存,满足不同查询的需求。

    例如,你可以使用倒排索引来实现对产品描述的快速文本搜索,同时利用 doc_values 对销售金额进行高效聚合,计算某段时间内销售的总额。

  2. 实时与批量分析的平衡 :倒排索引适合快速响应查询,而 doc_values 则使得批量处理(如聚合)更加高效。通过 doc_values,Elasticsearch 可以处理大量的数据并在较短时间内完成排序和聚合操作,适用于实时数据分析和报表生成。


小结

  • 倒排索引 就像是图书馆的索引卡片,专注于文本数据的快速查找。
  • doc_values 就像是数据库的列式存储,专注于数值、日期、关键字等字段的高效排序与聚合。

虽然它们各自有不同的用途,但在 Elasticsearch 中,二者往往是互补的,共同为快速搜索和高效分析提供支持。通过合理配置和使用这两种技术,可以显著提高系统的性能,满足不同场景下的需求。

相关推荐
上等猿14 小时前
Elasticsearch笔记
java·笔记·elasticsearch
qq_54702617919 小时前
Elasticsearch 评分机制
大数据·elasticsearch·jenkins
yangmf204020 小时前
私有知识库 Coco AI 实战(一):Linux 平台部署
大数据·linux·运维·人工智能·elasticsearch·搜索引擎·全文检索
Elastic 中国社区官方博客20 小时前
Elasticsearch:理解政府中的人工智能 - 应用、使用案例和实施
大数据·人工智能·elasticsearch·机器学习·搜索引擎·ai·全文检索
Elasticsearch1 天前
RAG vs. Fine Tuning ,一种实用方法
elasticsearch
Elasticsearch1 天前
了解可观察性指标:类型、黄金信号和最佳实践
elasticsearch
IT成长日记1 天前
Elasticsearch安全与权限控制指南
安全·elasticsearch
算家云1 天前
Ubuntu 22.04安装MongoDB:GLM4模型对话数据收集与微调教程
大数据·人工智能·mongodb·ubuntu·elasticsearch·算家云·glm4微调
小样vvv1 天前
【Es】基础入门:开启全文搜索的大门
大数据·elasticsearch·搜索引擎
herogus丶1 天前
【LLM】Elasticsearch作为向量库入门指南
elasticsearch·docker·langchain