使用极限网关实现 ES 跨集群搜索

使用 ES 的小伙伴,有没有在用跨集群搜索的? 熟悉 ES 的小伙伴都知道,ES 本身就能实现跨集群搜索,那为啥还要聊这个?试想一下,如果集群都上线投产了,才出现跨集群搜索需求,那么可能出现两种情况:

  1. 两个集群都使用了证书加密传输,要实现互联,需要重新设置证书,还要重启集群;
  2. 两个集群之间可能网络不能互通;

到了这里,我们的 极限网关 就派的上用场了。在以上场景中,只要网关能顺利连接到各个集群就行了。

话不多说,我们来 demo 一下。

数据准备

集群 A,含有 test 和 test-2 索引,数据很简单。

集群 B,含有 test-follower 和 test-3 索引,其中 test-follower 索引是集群 A 的复制索引

网关配置

网关配置使用专门的 merge_cross_search_results 配置。

做个简单的演示,只需修改这三个变量。

  • LR_ELASTICSEARCH_ENDPOINT1 : 代表集群 A ;
  • LR_ELASTICSEARCH_ENDPOINT2 : 代表集群 B ;
  • LR_ELASTICSEARCH_ENDPOINT3 : 代表默认集群,可以复用集群 A 或 B ;

集群 A 和 B 是我们要做跨集群搜索的,搜索请求会在这两个集群执行,然后合并结果。

非搜索请求会发送到这个 LR_ELASTICSEARCH_ENDPOINT3 指定的集群,但是 _cat/indices?format=json 会显示集群 A 和 B 的索引。

跨集群搜索

测试一

通配符 test* 查询集群 A 和 B ,所有数据,注意查询语法,必须包含冒号。

结果包含了集群 A 的索引:test 和 test-2 ,以及集群 B 的索引:test-follower 和 test-3 。

测试二

通配符 test* 查询集群 A 和 B ,包含关键字 cluster 的内容。

测试三

通配符 test* 查询集群 A 和 B ,进行聚合查询。

测试四

通配符 test* 查询集群 A 和 B ,进行带查询条件的聚合查询。

测试五

显示集群 A 和 B 的所有索引。

最后

这次的分享就到这里了,相信大家也看到了极限网关是非常灵活的。欢迎与我一起交流 ES 的各种问题和解决方案。

相关推荐
RunningShare12 小时前
千万级用户电商平台,Flink实时推荐系统如何实现毫秒级延迟?
大数据·flink·推荐系统·ab测试
INFINI Labs13 小时前
如何使用 INFINI Gateway 对比 ES 索引数据
大数据·elasticsearch·gateway·easysearch
他们叫我技术总监18 小时前
外企 BI 工具选型:从合规到落地
大数据·bi
Lansonli20 小时前
大数据Spark(六十七):Transformation转换算子distinct和mapValues
大数据·分布式·spark
RunningShare20 小时前
基于Flink的AB测试系统实现:从理论到生产实践
大数据·flink·ab测试
Elasticsearch21 小时前
Elasticsearch:使用推理端点及语义搜索演示
elasticsearch
Jolie_Liang1 天前
保险业多模态数据融合与智能化运营架构:技术演进、应用实践与发展趋势
大数据·人工智能·架构
武子康1 天前
大数据-118 - Flink 批处理 DataSet API 全面解析:应用场景、代码示例与优化机制
大数据·后端·flink
文火冰糖的硅基工坊1 天前
《投资-78》价值投资者的认知升级与交易规则重构 - 架构
大数据·人工智能·重构
卡拉叽里呱啦1 天前
Apache Iceberg介绍、原理与性能优化
大数据·数据仓库