Interview preparation--Elasticsearch并发控制

Elasticsearch 并发控制
  • Elasticsearch是分布式的。创建,更新,删除文档时,必须将文档的新版本复制到集群中的其他节点。ES也是异步并行的,所有这些复制请求是并行发送的,并且可能不安顺序执行到每一个节点。ES需要一种并发策略来保证数据的安全性,而这种策略就是乐观锁并发控制策略。
  • 为了保证旧文档不会被新文档覆盖,对文档执行的每个操作都由协调该更改的主分片分配一个序列号(_seq_no)。每个操作都会操作序列号递增,因此可以保证较新的操作具有更高的序列号。然后,ES 可以使用操作序列号来确保更新的文档版本永远不会被分配了较小序列号的版本覆盖。
版本号: _version
  • 基本原理:

  • 每个索引文档都有一个版本号。默认情况下,使用从1 开始的内部版本控制,每次更新都会增加。 可选操作是,版本号可以设置为外部(比如在数据库中维护)。 可以通过设置version_type = external。 提供的值必须大于或等于0 而且小于9.2e + 18 左右的数字长整型值。

  • 如果设置了version_type = external,在用外部版本类型时候,系统会检查传递给索引请求的版本号是否大于当前存储文档的版本。如果为真,文档将被索引并使用新的版本号。如果提供的值小于或等于存储文档的版本号,则会发生版本冲突,索引操作将失败。

  • _version 的有效范围是当前文档

使用if_seq_no 和 if_primary_term 进行版本控制
  • if_seq_no 和 if_primary_term 是用来并发控制,和 _version不同,_version属于当前文档,而 _seq_no属于整个index。
  • if_seq_no : 索引级别的版本号,索引中所有文档共享一个 _seq_no
  • _primary_term:是一个整数,当Primary Shard发生重新分配的时候,比如节点冲突,Primary选举或者重新分配等,_primary_term会递增1,主要用来恢复数据时候处理多个文档的_seq_no一样时候避免冲突,避免Primary Shard 上的数据被覆盖。
相关推荐
武子康3 小时前
大数据-244 离线数仓 - Hive ODS 层建表与分区加载实战(DataX→HDFS→Hive)
大数据·后端·apache hive
Elasticsearch1 天前
为上下文工程构建高效的数据库检索工具
elasticsearch
武子康1 天前
大数据-243 离线数仓 - 实战电商核心交易增量导入(DataX - HDFS - Hive 分区
大数据·后端·apache hive
代码匠心3 天前
从零开始学Flink:Flink SQL四大Join解析
大数据·flink·flink sql·大数据处理
武子康4 天前
大数据-242 离线数仓 - DataX 实战:MySQL 全量/增量导入 HDFS + Hive 分区(离线数仓 ODS
大数据·后端·apache hive
Elasticsearch4 天前
需要知道某个同义词是否实际匹配了你的 Elasticsearch 查询吗?
elasticsearch
SelectDB5 天前
易车 × Apache Doris:构建湖仓一体新架构,加速 AI 业务融合实践
大数据·agent·mcp
武子康5 天前
大数据-241 离线数仓 - 实战:电商核心交易数据模型与 MySQL 源表设计(订单/商品/品类/店铺/支付)
大数据·后端·mysql
IvanCodes5 天前
一、消息队列理论基础与Kafka架构价值解析
大数据·后端·kafka
武子康6 天前
大数据-240 离线数仓 - 广告业务 Hive ADS 实战:DataX 将 HDFS 分区表导出到 MySQL
大数据·后端·apache hive