【ElasticSearch】使用 Java 客户端 RestClient 实现对文档的查询操作，以及对搜索结果的排序、分页、高亮处理

求知.2023-10-12 13:11

文章目录

  • [前言：RestClient 查询文档的 RestAPI](#前言：RestClient 查询文档的 RestAPI)
  • 一、全文检索查询
    • [1.1 match_all 查询](#1.1 match_all 查询)
    • [1.2 match 查询](#1.2 match 查询)
    • [1.3 multi_match 查询](#1.3 multi_match 查询)
  • 二、精确查询
    • [2.1 term 查询](#2.1 term 查询)
    • [2.2 range 查询](#2.2 range 查询)
  • [三、复合查询：Boolean 查询与 function score 查询的综合案例](#三、复合查询：Boolean 查询与 function score 查询的综合案例)
  • 四、对查询结果的处理
    • [4.1 将查询结果按照自己的距离远近排序](#4.1 将查询结果按照自己的距离远近排序)
    • [4.2 根据前端请求参数进行分页操作](#4.2 根据前端请求参数进行分页操作)
    • [4.3 对搜索关键字进行高亮处理](#4.3 对搜索关键字进行高亮处理)

前言：RestClient 查询文档的 RestAPI

在 Elasticsearch 中，通过 RestAPI 进行 DSL 查询语句的构建通常是通过 HighLevelRestClient 中的 resource() 方法来实现的。该方法包含了查询、排序、分页、高亮等所有功能，为构建复杂的查询提供了便捷的接口。

RestAPI 中构建查询条件的核心部分是由一个名为 QueryBuilders 的工具类提供的。该工具类包含了各种查询方法，如下图所示：

查询的基本步骤如下：

  1. 创建 SearchRequest 对象。
  2. 准备 Request.source()，也就是 DSL。
  3. 使用 QueryBuilders 构建查询条件。
  4. 将查询条件传入 Request.source().query() 方法。
  5. 发送请求，得到结果。
  6. 解析结果，可以参考 JSON 结果，从外到内逐层解析。

这种方式使得构建复杂的查询变得简单而灵活。在接下来的实例中，我们将深入学习如何使用 HighLevelRestClient 中的 resource() 方法构建各种查询，并充分利用 QueryBuilders 工具类来满足不同的搜索需求。

一、全文检索查询

1.1 match_all 查询

match_all 查询的单元测试代码：

java 复制代码 
@Test
void testMatchAll() throws IOException {
    // 1. 准备Request
    SearchRequest request = new SearchRequest("hotel");

    // 2. 组织 DSL 请求
    request.source().query(QueryBuilders.matchAllQuery());

    // 3. 发送请求
    SearchResponse response = client.search(request, RequestOptions.DEFAULT);

    // 4. 解析结果
    List<HotelDoc> hotelDocs = handleResponse(response);
    System.out.println(hotelDocs);
}

这个测试代码演示了如何使用 match_all 查询来获取指定索引（这里是 "hotel"）下的所有文档。具体步骤如下：

  1. 创建 SearchRequest 对象，指定索引为 "hotel"。
  2. 使用 QueryBuilders.matchAllQuery() 构建查询条件。
  3. 将查询条件添加到请求的 DSL 中。
  4. 发送请求，得到查询结果。
  5. 解析查询结果，将文档转换为 HotelDoc 对象。

1.2 match 查询

java 复制代码 
@Test
void testMatch() throws IOException {
    // 1. 准备Request
    SearchRequest request = new SearchRequest("hotel");

    // 2. 组织 DSL 请求
    request.source().query(QueryBuilders.matchQuery("all", "如家"));

    // 3. 发送请求
    SearchResponse response = client.search(request, RequestOptions.DEFAULT);

    // 4. 解析结果
    List<HotelDoc> hotelDocs = handleResponse(response);
    System.out.println(hotelDocs);
}

这个测试代码演示了如何使用 match 查询来搜索包含特定关键词（这里是 "如家"）的文档。具体步骤如下：

  1. 创建 SearchRequest 对象，指定索引为 "hotel"。
  2. 使用 QueryBuilders.matchQuery("all", "如家") 构建查询条件，表示在 "all" 字段中搜索包含 "如家" 的文档。
  3. 将查询条件添加到请求的 DSL 中。
  4. 发送请求，得到查询结果。
  5. 解析查询结果，将文档转换为 HotelDoc 对象。

1.3 multi_match 查询

java 复制代码 
@Test
void testMultiMatch() throws IOException {
    // 1. 准备Request
    SearchRequest request = new SearchRequest("hotel");

    // 2. 组织 DSL 请求
    request.source().query(QueryBuilders.multiMatchQuery("如家", "name", "business"));

    // 3. 发送请求
    SearchResponse response = client.search(request, RequestOptions.DEFAULT);

    // 4. 解析结果
    List<HotelDoc> hotelDocs = handleResponse(response);
    System.out.println(hotelDocs);
}

这个测试代码演示了如何使用 multi_match 查询来在多个字段（这里是 "name" 和 "business"）中搜索包含特定关键词（这里是 "如家"）的文档。具体步骤如下：

  1. 创建 SearchRequest 对象，指定索引为 "hotel"。
  2. 使用 QueryBuilders.multiMatchQuery("如家", "name", "business") 构建查询条件，表示在 "name" 和 "business" 字段中搜索包含 "如家" 的文档。
  3. 将查询条件添加到请求的 DSL 中。
  4. 发送请求，得到查询结果。
  5. 解析查询结果，将文档转换为 HotelDoc 对象。

可以看到，这些测试代码的结构类似，只是在构建查询条件时使用了不同的 QueryBuilders 方法，用于满足不同的查询需求。

二、精确查询

精确查询常见的有 term 查询和 range 查询，同样使用 QueryBuilders 指定具体的查询方式。

2.1 term 查询

java 复制代码 
@Test
void testTerm() throws IOException {
    // 1. 准备Request
    SearchRequest request = new SearchRequest("hotel");

    // 2. 组织 DSL 请求
  	request.source().query(QueryBuilders.termQuery("city", "上海"));

    // 3. 发送请求
    SearchResponse response = client.search(request, RequestOptions.DEFAULT);

    // 4. 解析结果
    List<HotelDoc> hotelDocs = handleResponse(response);
    System.out.println(hotelDocs);
}

这个测试代码演示了如何使用 term 查询来搜索指定字段（这里是 "city"）中包含特定关键词（这里是 "上海"）的文档。具体步骤如下：

  1. 创建 SearchRequest 对象，指定索引为 "hotel"。
  2. 使用 QueryBuilders.termQuery("city", "上海") 构建查询条件，表示在 "city" 字段中搜索包含 "上海" 的文档。
  3. 将查询条件添加到请求的 DSL 中。
  4. 发送请求，得到查询结果。
  5. 解析查询结果，将文档转换为 HotelDoc 对象。

2.2 range 查询

java 复制代码 
@Test
void testRange() throws IOException {
    // 1. 准备Request
    SearchRequest request = new SearchRequest("hotel");

    // 2. 组织 DSL 请求
    request.source().query(QueryBuilders.rangeQuery("price").gte(150).lte(200));

    // 3. 发送请求
    SearchResponse response = client.search(request, RequestOptions.DEFAULT);

    // 4. 解析结果
    List<HotelDoc> hotelDocs = handleResponse(response);
    System.out.println(hotelDocs);
}

这个测试代码演示了如何使用 range 查询来搜索指定字段（这里是 "price"）中在给定范围内的文档。具体步骤如下：

  1. 创建 SearchRequest 对象，指定索引为 "hotel"。
  2. 使用 QueryBuilders.rangeQuery("price").gte(150).lte(200) 构建查询条件，表示在 "price" 字段中搜索价格在 150 到 200 之间的文档。
  3. 将查询条件添加到请求的 DSL 中。
  4. 发送请求，得到查询结果。
  5. 解析查询结果，将文档转换为 HotelDoc 对象。

这些测试代码演示了如何使用精确查询来满足特定的搜索需求。在实际应用中，可以根据具体的业务场景和数据结构选择不同的查询方式。

三、复合查询：Boolean 查询与 function score 查询的综合案例

例如，现在通过一个酒店预订网址的查询功能不但可以在搜索框输入关键字进行查询，还可以勾选指定的筛选条件，比如城市、星级、品牌和价格范围：

另外，再所有的酒店数据中还存在一部分属于广告（ES 文档中新增一个布尔类型的 isAD 字段表示），要求查询结果中的广告需要顶置显示，因此整个查询分为两部分：即 boolean 查询和 function score 查询。

  • boolean 查询：实现对搜索关键字的查询，以及过滤：城市、星级、品牌和价格等条件；
  • function score 查询：实现对广告文档的相关性增加操作。

具体的查询代码如下：

java 复制代码 
private static void buildBasicQuery(RequestParams params, SearchRequest request) {
    // 1. 原始查询 Query

    BoolQueryBuilder boolQuery = QueryBuilders.boolQuery();
    // 关键字搜索 must
    String key = params.getKey();
    if (key == null || key.isEmpty()) {
        boolQuery.must(QueryBuilders.matchAllQuery());
    } else {
        boolQuery.must(QueryBuilders.matchQuery("all", key));
    }

    // 城市条件
    if (params.getCity() != null && !params.getCity().isEmpty()) {
        boolQuery.filter(QueryBuilders.termQuery("city", params.getCity()));
    }
    // 品牌条件
    if (params.getBrand() != null && !params.getBrand().isEmpty()) {
        boolQuery.filter(QueryBuilders.termQuery("brand", params.getBrand()));
    }
    // 星级条件
    if (params.getStarName() != null && !params.getStarName().isEmpty()) {
        boolQuery.filter(QueryBuilders.termQuery("starName", params.getStarName()));
    }
    // 价格范围
    if (params.getMaxPrice() != null && params.getMinPrice() != null) {
        boolQuery.filter(QueryBuilders
                .rangeQuery("price").lte(params.getMaxPrice()).gte(params.getMinPrice()));
    }

    // 2. 算分查询
    FunctionScoreQueryBuilder functionScoreQuery =
            QueryBuilders.functionScoreQuery(
                    // 原始查询，相关信算法的查询
                    boolQuery,
                    // function score 数组
                    new FunctionScoreQueryBuilder.FilterFunctionBuilder[]{
                            // 其中一个具体的 function score
                            new FunctionScoreQueryBuilder.FilterFunctionBuilder(
                                    // 过滤条件
                                    QueryBuilders.termQuery("isAD", true),
                                    // 算分函数
                                    ScoreFunctionBuilders.weightFactorFunction(10)
                            )
                    });

    request.source().query(functionScoreQuery);
}

对上述代码的详细说明：

  • RequestParams 是一个封装了前端请求参数的对象，里面包含了 ES 文档中的各个字段；
  • 在这个方法中，首先构建了一个 boolQuery 作为原始查询条件，包含了关键字搜索、城市、品牌、星级和价格范围等多个条件；
  • 接着，构建了一个 functionScoreQuery，将原始查询作为参数传入，同时定义了一个 FilterFunctionBuilder，用于处理广告部分的查询，对广告文档的分数进行加权，使其在查询结果中更靠前显示；
  • 最后，将 functionScoreQuery 设置为请求的查询条件。

这个综合的查询案例涵盖了多个条件的组合查询以及对特定文档的加权分数处理。在实际应用中，可以根据业务需求扩展和修改这个查询方法。

四、对查询结果的处理

4.1 将查询结果按照自己的距离远近排序

在前端查询酒店数据的时候，一般都会定位获取到自己当前的位置，然后传递给后端。

  • RequestParams 作为前端参数的封装对象，包含了这个位置信息，可通过get 方法进行获取；
  • 然后可以通过 SortBuilders 中的 geoDistanceSort 方法计算距离并进行排序操作，即可获取酒店与自己的实际距离。
java 复制代码 
String location = params.getLocation();
if (location != null && !location.isEmpty()) {
    request.source().sort(SortBuilders
            .geoDistanceSort("location", new GeoPoint(location))
            .order(SortOrder.ASC)
            .unit(DistanceUnit.KILOMETERS)
    );
}

4.2 根据前端请求参数进行分页操作

分页需要的页码以及页面大小一般都由前端传递参数给后端，然后后端获取这两个参数进行分页操作。

  • RequestParams 作为前端参数的封装对象，包含了这两个参数，可通过get 方法进行获取；
  • 然后再根据分页偏移量的计算公式offset = (page - 1) * size 即可获取偏移量，然后通过 source 的 from 和 size 方法，即可实现分页查询。

例如：

java 复制代码 
int page = params.getPage();
            int size = params.getSize();
            request.source().from((page - 1) * size).size(size);

4.3 对搜索关键字进行高亮处理

要对搜索关键字进行高亮处理同样非常简单，只需要使用 resouce 中的 highlighter 方法指定要进行高亮的字段即可。

实现的示例代码如下：

java 复制代码 
@Test
void testHighlight() throws IOException {

    // 1. 准备Request
    SearchRequest request = new SearchRequest("hotel");

    // 2. 组织 DSL 请求
    // 2.1 query
    request.source().query(QueryBuilders.matchQuery("all", "如家"));

    // 2.2 设置高亮
    request.source().highlighter(new HighlightBuilder().field("name").requireFieldMatch(false));

    // 3. 发送请求
    SearchResponse response = client.search(request, RequestOptions.DEFAULT);

    // 4. 解析结果
    List<HotelDoc> hotelDocs = handleResponse(response);
    System.out.println(hotelDocs);
}

说明：

注意requireFieldMatch方法的作用是高亮的字段是否需要和搜索的字段匹配。例如：使用字段 all 查询匹配 brand 字段，此时 brand 字段使用了 copy_to 到 all 字段，因此要高亮的字段并不匹配，如果不设置 requireFieldMatch 为 false 则会高亮失败。

对结果的解析：

实现高亮的原理是对搜索关键字加上了 <em> </em> 标签，通过在 Kibana 中使用高亮处理的 DSL 语句可以发现：

其实高亮的处理并没有作用到查询出的原始文档中，而是在每个 hits 里面新增了一个 highlight 字段，里面包含了高亮的关键字，因此还需要对 handleResponse 函数进行改造，使得能够处理高亮的查询结果：

例如，在handleResponse 函数的 result.add(hotelDoc) 这句代码之前，新增了以下代码用于处理高亮的情况，即使用高亮处理了的关键字替换查询结果中对应的关键字：

java 复制代码 
// 获取高亮结果
Map<String, HighlightField> highlightFields = hit.getHighlightFields();
if(highlightFields != null && !highlightFields.isEmpty()) {
    // 获取高亮名称
    HighlightField highlightField = highlightFields.get("name");
    // 获取高亮的值
    String name = highlightField.getFragments()[0].toString();
    hotelDoc.setName(name);
}

当运行这段测试代码，即可发现成功对 name 字段的 "如家" 添加了 <em> </em> 标签：

相关推荐
Elastic 中国社区官方博客8 小时前
如何将数据从 AWS S3 导入到 Elastic Cloud - 第 3 部分：Elastic S3 连接器
大数据·elasticsearch·搜索引擎·云计算·全文检索·可用性测试·aws
掘金-我是哪吒8 小时前
微服务mysql，redis，elasticsearch, kibana，cassandra，mongodb, kafka
redis·mysql·mongodb·elasticsearch·微服务
研究是为了理解9 小时前
Git Bash 常用命令
git·elasticsearch·bash
晨欣13 小时前
Elasticsearch和Lucene之间是什么关系？（ChatGPT回答）
elasticsearch·chatgpt·lucene
筱源源19 小时前
Elasticsearch-linux环境部署
linux·elasticsearch
Elastic 中国社区官方博客1 天前
释放专利力量：Patently 如何利用向量搜索和 NLP 简化协作
大数据·数据库·人工智能·elasticsearch·搜索引擎·自然语言处理
Shenqi Lotus1 天前
ELK-ELK基本概念_ElasticSearch的配置
elk·elasticsearch
yeye198912242 天前
10-Query & Filtering 与多字符串多字段查询
elasticsearch
Narutolxy2 天前
精准优化Elasticsearch：磁盘空间管理与性能提升技巧20241106
大数据·elasticsearch·jenkins
谢小涛2 天前
ES管理工具Cerebro 0.8.5 Windows版本安装及启动
elasticsearch·es·cerebro
热门推荐
01如何才能让手机厂商主动拥抱华为，接入鸿蒙系统？02【HarmonyOS】HUAWEI DevEco Studio 下载地址汇总03组基轨迹建模 GBTM的介绍与实现（Stata 或 R）04【TC3xx芯片】TC3xx芯片电源管理系统PMS详解05基于YOLOv10深度学习的CT扫描图像肾结石智能检测系统【python源码+Pyqt5界面+数据集+训练代码】深度学习实战、目标检测06【经验分享】Ubuntu22.04安装微信(linux官方版)07Macbook pro M1 安装Ubuntu教程08RAG 实践- Ollama+RagFlow 部署本地知识库09Windows10安装PCL1.14.0及点云配准10文件或文件夹名称中有空格如何批量去除