Elasticsearch核心概念

Elasticsearch

Elasticsearch核心概念

Elasticsearch的主旨:随时可用和按需扩容

Elasticsearch 可以获益于更强大的硬件设备,但垂直扩容是有极限的。 真正的扩容能力是来自于水平扩容---​为集群添加更多的节点,并且将负载压力和稳定性分散到这些节点中。ElastiSearch是分布式的 ,它知道如何通过管理多节点来提高扩容性和可用性。

Elasticsearch和Solr的比较

  • 单纯对已有数据进行搜索,Solr更快【查询快,更新索引慢即插入删除慢,用于电商等查询多的应用】
  • 当要建立实时索引时,Solr会产生io阻塞,查询性能较差,Elasticsearch更优【建立索引快即实时性查询快】
  • 随着数据量增加,Solr效率变低,Elasticsearch没有明显变化
  • Solr利用Zookeeper进行分布式管理,es自带分布式协调管理功能
  • Solr支持更多数据格式,es仅支持json文件格式

物理设计

在后台吧每个索引划分成多个分片,每个分片可以在集群中的不同服务器间迁移

一个人就是一个集群【默认:elasticsearch】

一个集群至少有一个节点,一个节点就是一个es进程,如果创建索引,那么索引将会有五个分片构成,每一个主分片会有一个副本【复制分片】

一个分片是一个Lucene索引,一个包含倒排索引的文件目录

主分片和对应的复制分片都不会在同一个节点内,若某个节点挂了,数据也不至于丢失

逻辑设计

文档:面向文档的,索引和搜索数据的最小单位时文档,即一条条数据

类型:文档的逻辑容器

索引:就是数据库,是映射类型的容器,es的索引是一个非常大的文档集合,存储了映射类型的字段和其他设置,然后被存储到各个分片

Elasticsearch是面向文档型数据库,一条数据即一个文档,可将Elasticsearch与存储文档数据的关系型数据库Mysql存储数据的概念进行一个类比:ES的index可看作一个库;Types相当于表;Documents相当于表的行;Fields即表的列

Index -----> Databases

Types -----> Table

Documents ----->Row

Fields -----> Column

Types概念被逐渐弱化

倒排索引:

搜索引擎会把正向索引变为反向索引(倒排索引)即把"文档ID→关键词"的形式变为"关键词→文档ID"的形式。只需要查看标签这一栏,然后获取相关的文章ID即可,完全过滤掉无关的所有数据,效率upup⬆️

key:文档1、文档2...

word:文档2、文档5...

数据结构:

倒排表【posting list】:int有序数组存储匹配某个term的所有id

词项字典term dictionary:存放拆分出来的所有词项

词项索引term index【在词项字典的基础上创建出来的索引数据,大大提升检索速度】

tip-词典索引,存放前后缀指针,需要内存加载;tim-后缀词块、倒排指针;doc-倒排表、词频

极大得节省内存,FST压缩倍率最高可以达到20倍,性能不如HashMap但也很不错

正排索引:

当用户发起查询时(假设查询为一个关键词),搜索引擎会扫描索引库中的所有文档,找出所有包含关键词的文档,这样依次从文档中去查找是否含有关键词的方法叫做正向索引。【遍历的索引结构效率低下,无法满足用户需求】

文档1:key、word...

文档2:word、load...

相关推荐
Elasticsearch17 小时前
在 Elastic Observability 中使用 Discover 的追踪获取更深入的应用洞察
elasticsearch
婲落ヽ紅顏誶18 小时前
测试es向量检索
大数据·elasticsearch·搜索引擎
IT学长编程18 小时前
计算机毕业设计 基于Hadoop豆瓣电影数据可视化分析设计与实现 Python 大数据毕业设计 Hadoop毕业设计选题【附源码+文档报告+安装调试
大数据·hadoop·python·django·毕业设计·毕业论文·豆瓣电影数据可视化分析
semantist@语校19 小时前
第二十篇|SAMU教育学院的教育数据剖析:制度阈值、能力矩阵与升学网络
大数据·数据库·人工智能·百度·语言模型·矩阵·prompt
Dobby_0519 小时前
【Hadoop】Yarn:Hadoop 生态的资源操作系统
大数据·hadoop·分布式·yarn
数智顾问19 小时前
基于Hadoop进程的分布式计算任务调度与优化实践——深入理解分布式计算引擎的核心机制
大数据
笨蛋少年派19 小时前
安装Hadoop中遇到的一些问题和解决
大数据·hadoop·分布式
在未来等你20 小时前
Kafka面试精讲 Day 18:磁盘IO与网络优化
大数据·分布式·面试·kafka·消息队列
大视码垛机20 小时前
速度与安全双突破:大视码垛机重构工业自动化新范式
大数据·数据库·人工智能·机器人·自动化·制造
梓仁沐白20 小时前
hadoop单机伪分布环境配置
大数据·hadoop·分布式