使用极限网关实现 ES 跨集群搜索

使用 ES 的小伙伴,有没有在用跨集群搜索的? 熟悉 ES 的小伙伴都知道,ES 本身就能实现跨集群搜索,那为啥还要聊这个?试想一下,如果集群都上线投产了,才出现跨集群搜索需求,那么可能出现两种情况:

  1. 两个集群都使用了证书加密传输,要实现互联,需要重新设置证书,还要重启集群;
  2. 两个集群之间可能网络不能互通;

到了这里,我们的 极限网关 就派的上用场了。在以上场景中,只要网关能顺利连接到各个集群就行了。

话不多说,我们来 demo 一下。

数据准备

集群 A,含有 test 和 test-2 索引,数据很简单。

集群 B,含有 test-follower 和 test-3 索引,其中 test-follower 索引是集群 A 的复制索引

网关配置

网关配置使用专门的 merge_cross_search_results 配置。

做个简单的演示,只需修改这三个变量。

  • LR_ELASTICSEARCH_ENDPOINT1 : 代表集群 A ;
  • LR_ELASTICSEARCH_ENDPOINT2 : 代表集群 B ;
  • LR_ELASTICSEARCH_ENDPOINT3 : 代表默认集群,可以复用集群 A 或 B ;

集群 A 和 B 是我们要做跨集群搜索的,搜索请求会在这两个集群执行,然后合并结果。

非搜索请求会发送到这个 LR_ELASTICSEARCH_ENDPOINT3 指定的集群,但是 _cat/indices?format=json 会显示集群 A 和 B 的索引。

跨集群搜索

测试一

通配符 test* 查询集群 A 和 B ,所有数据,注意查询语法,必须包含冒号。

结果包含了集群 A 的索引:test 和 test-2 ,以及集群 B 的索引:test-follower 和 test-3 。

测试二

通配符 test* 查询集群 A 和 B ,包含关键字 cluster 的内容。

测试三

通配符 test* 查询集群 A 和 B ,进行聚合查询。

测试四

通配符 test* 查询集群 A 和 B ,进行带查询条件的聚合查询。

测试五

显示集群 A 和 B 的所有索引。

最后

这次的分享就到这里了,相信大家也看到了极限网关是非常灵活的。欢迎与我一起交流 ES 的各种问题和解决方案。

相关推荐
Matrix703 小时前
Spark宽窄依赖与Join优化:协同划分与非协同划分的底层逻辑
大数据
key_3_feng4 小时前
大模型时代下全场景数据消费平台的智能BI—Quick BI深度解析
大数据·deepseek
计算所陈老师5 小时前
基于论文的大模型应用:基于SmartETL的arXiv论文数据接入与预处理(三)
大数据·人工智能·信息抽取
AORO_BEIDOU5 小时前
遨游防爆手机:构筑煤矿安全通讯的数字护盾
大数据·人工智能·智能手机
lilye666 小时前
精益数据分析(2/126):解锁数据驱动的商业成功密码
大数据·人工智能·数据分析
计算机毕设定制辅导-无忧学长7 小时前
TDengine 性能监控与调优实战指南(一)
大数据·时序数据库·tdengine
TMT星球7 小时前
快手本地生活2024年GMV同增200%,“新线城市+AI”将成增长引擎
大数据·人工智能·生活
苍煜9 小时前
IDEA在Git提交时添加.ignore忽略文件,解决为什么Git中有时候使用.gitignore也无法忽略一些文件
git·elasticsearch·intellij-idea
青春不流名9 小时前
flink任务提交example
大数据·flink
神奇的黄豆11 小时前
Spark-sql编程
大数据·sql·spark