【ElasticSearch】使用 Java 客户端 RestClient 实现对文档的查询操作，以及对搜索结果的排序、分页、高亮处理

求知.2023-10-12 13:11

文章目录

  • [前言：RestClient 查询文档的 RestAPI](#前言：RestClient 查询文档的 RestAPI)
  • 一、全文检索查询
    • [1.1 match_all 查询](#1.1 match_all 查询)
    • [1.2 match 查询](#1.2 match 查询)
    • [1.3 multi_match 查询](#1.3 multi_match 查询)
  • 二、精确查询
    • [2.1 term 查询](#2.1 term 查询)
    • [2.2 range 查询](#2.2 range 查询)
  • [三、复合查询：Boolean 查询与 function score 查询的综合案例](#三、复合查询：Boolean 查询与 function score 查询的综合案例)
  • 四、对查询结果的处理
    • [4.1 将查询结果按照自己的距离远近排序](#4.1 将查询结果按照自己的距离远近排序)
    • [4.2 根据前端请求参数进行分页操作](#4.2 根据前端请求参数进行分页操作)
    • [4.3 对搜索关键字进行高亮处理](#4.3 对搜索关键字进行高亮处理)

前言：RestClient 查询文档的 RestAPI

在 Elasticsearch 中，通过 RestAPI 进行 DSL 查询语句的构建通常是通过 HighLevelRestClient 中的 resource() 方法来实现的。该方法包含了查询、排序、分页、高亮等所有功能，为构建复杂的查询提供了便捷的接口。

RestAPI 中构建查询条件的核心部分是由一个名为 QueryBuilders 的工具类提供的。该工具类包含了各种查询方法，如下图所示：

查询的基本步骤如下：

  1. 创建 SearchRequest 对象。
  2. 准备 Request.source()，也就是 DSL。
  3. 使用 QueryBuilders 构建查询条件。
  4. 将查询条件传入 Request.source().query() 方法。
  5. 发送请求，得到结果。
  6. 解析结果，可以参考 JSON 结果，从外到内逐层解析。

这种方式使得构建复杂的查询变得简单而灵活。在接下来的实例中，我们将深入学习如何使用 HighLevelRestClient 中的 resource() 方法构建各种查询，并充分利用 QueryBuilders 工具类来满足不同的搜索需求。

一、全文检索查询

1.1 match_all 查询

match_all 查询的单元测试代码：

java 复制代码 
@Test
void testMatchAll() throws IOException {
    // 1. 准备Request
    SearchRequest request = new SearchRequest("hotel");

    // 2. 组织 DSL 请求
    request.source().query(QueryBuilders.matchAllQuery());

    // 3. 发送请求
    SearchResponse response = client.search(request, RequestOptions.DEFAULT);

    // 4. 解析结果
    List<HotelDoc> hotelDocs = handleResponse(response);
    System.out.println(hotelDocs);
}

这个测试代码演示了如何使用 match_all 查询来获取指定索引（这里是 "hotel"）下的所有文档。具体步骤如下：

  1. 创建 SearchRequest 对象，指定索引为 "hotel"。
  2. 使用 QueryBuilders.matchAllQuery() 构建查询条件。
  3. 将查询条件添加到请求的 DSL 中。
  4. 发送请求，得到查询结果。
  5. 解析查询结果，将文档转换为 HotelDoc 对象。

1.2 match 查询

java 复制代码 
@Test
void testMatch() throws IOException {
    // 1. 准备Request
    SearchRequest request = new SearchRequest("hotel");

    // 2. 组织 DSL 请求
    request.source().query(QueryBuilders.matchQuery("all", "如家"));

    // 3. 发送请求
    SearchResponse response = client.search(request, RequestOptions.DEFAULT);

    // 4. 解析结果
    List<HotelDoc> hotelDocs = handleResponse(response);
    System.out.println(hotelDocs);
}

这个测试代码演示了如何使用 match 查询来搜索包含特定关键词（这里是 "如家"）的文档。具体步骤如下：

  1. 创建 SearchRequest 对象，指定索引为 "hotel"。
  2. 使用 QueryBuilders.matchQuery("all", "如家") 构建查询条件，表示在 "all" 字段中搜索包含 "如家" 的文档。
  3. 将查询条件添加到请求的 DSL 中。
  4. 发送请求，得到查询结果。
  5. 解析查询结果，将文档转换为 HotelDoc 对象。

1.3 multi_match 查询

java 复制代码 
@Test
void testMultiMatch() throws IOException {
    // 1. 准备Request
    SearchRequest request = new SearchRequest("hotel");

    // 2. 组织 DSL 请求
    request.source().query(QueryBuilders.multiMatchQuery("如家", "name", "business"));

    // 3. 发送请求
    SearchResponse response = client.search(request, RequestOptions.DEFAULT);

    // 4. 解析结果
    List<HotelDoc> hotelDocs = handleResponse(response);
    System.out.println(hotelDocs);
}

这个测试代码演示了如何使用 multi_match 查询来在多个字段（这里是 "name" 和 "business"）中搜索包含特定关键词（这里是 "如家"）的文档。具体步骤如下：

  1. 创建 SearchRequest 对象，指定索引为 "hotel"。
  2. 使用 QueryBuilders.multiMatchQuery("如家", "name", "business") 构建查询条件，表示在 "name" 和 "business" 字段中搜索包含 "如家" 的文档。
  3. 将查询条件添加到请求的 DSL 中。
  4. 发送请求，得到查询结果。
  5. 解析查询结果，将文档转换为 HotelDoc 对象。

可以看到，这些测试代码的结构类似，只是在构建查询条件时使用了不同的 QueryBuilders 方法，用于满足不同的查询需求。

二、精确查询

精确查询常见的有 term 查询和 range 查询，同样使用 QueryBuilders 指定具体的查询方式。

2.1 term 查询

java 复制代码 
@Test
void testTerm() throws IOException {
    // 1. 准备Request
    SearchRequest request = new SearchRequest("hotel");

    // 2. 组织 DSL 请求
  	request.source().query(QueryBuilders.termQuery("city", "上海"));

    // 3. 发送请求
    SearchResponse response = client.search(request, RequestOptions.DEFAULT);

    // 4. 解析结果
    List<HotelDoc> hotelDocs = handleResponse(response);
    System.out.println(hotelDocs);
}

这个测试代码演示了如何使用 term 查询来搜索指定字段（这里是 "city"）中包含特定关键词（这里是 "上海"）的文档。具体步骤如下：

  1. 创建 SearchRequest 对象，指定索引为 "hotel"。
  2. 使用 QueryBuilders.termQuery("city", "上海") 构建查询条件，表示在 "city" 字段中搜索包含 "上海" 的文档。
  3. 将查询条件添加到请求的 DSL 中。
  4. 发送请求，得到查询结果。
  5. 解析查询结果，将文档转换为 HotelDoc 对象。

2.2 range 查询

java 复制代码 
@Test
void testRange() throws IOException {
    // 1. 准备Request
    SearchRequest request = new SearchRequest("hotel");

    // 2. 组织 DSL 请求
    request.source().query(QueryBuilders.rangeQuery("price").gte(150).lte(200));

    // 3. 发送请求
    SearchResponse response = client.search(request, RequestOptions.DEFAULT);

    // 4. 解析结果
    List<HotelDoc> hotelDocs = handleResponse(response);
    System.out.println(hotelDocs);
}

这个测试代码演示了如何使用 range 查询来搜索指定字段（这里是 "price"）中在给定范围内的文档。具体步骤如下：

  1. 创建 SearchRequest 对象，指定索引为 "hotel"。
  2. 使用 QueryBuilders.rangeQuery("price").gte(150).lte(200) 构建查询条件，表示在 "price" 字段中搜索价格在 150 到 200 之间的文档。
  3. 将查询条件添加到请求的 DSL 中。
  4. 发送请求，得到查询结果。
  5. 解析查询结果，将文档转换为 HotelDoc 对象。

这些测试代码演示了如何使用精确查询来满足特定的搜索需求。在实际应用中，可以根据具体的业务场景和数据结构选择不同的查询方式。

三、复合查询：Boolean 查询与 function score 查询的综合案例

例如，现在通过一个酒店预订网址的查询功能不但可以在搜索框输入关键字进行查询，还可以勾选指定的筛选条件，比如城市、星级、品牌和价格范围：

另外，再所有的酒店数据中还存在一部分属于广告（ES 文档中新增一个布尔类型的 isAD 字段表示），要求查询结果中的广告需要顶置显示，因此整个查询分为两部分：即 boolean 查询和 function score 查询。

  • boolean 查询：实现对搜索关键字的查询，以及过滤：城市、星级、品牌和价格等条件；
  • function score 查询：实现对广告文档的相关性增加操作。

具体的查询代码如下：

java 复制代码 
private static void buildBasicQuery(RequestParams params, SearchRequest request) {
    // 1. 原始查询 Query

    BoolQueryBuilder boolQuery = QueryBuilders.boolQuery();
    // 关键字搜索 must
    String key = params.getKey();
    if (key == null || key.isEmpty()) {
        boolQuery.must(QueryBuilders.matchAllQuery());
    } else {
        boolQuery.must(QueryBuilders.matchQuery("all", key));
    }

    // 城市条件
    if (params.getCity() != null && !params.getCity().isEmpty()) {
        boolQuery.filter(QueryBuilders.termQuery("city", params.getCity()));
    }
    // 品牌条件
    if (params.getBrand() != null && !params.getBrand().isEmpty()) {
        boolQuery.filter(QueryBuilders.termQuery("brand", params.getBrand()));
    }
    // 星级条件
    if (params.getStarName() != null && !params.getStarName().isEmpty()) {
        boolQuery.filter(QueryBuilders.termQuery("starName", params.getStarName()));
    }
    // 价格范围
    if (params.getMaxPrice() != null && params.getMinPrice() != null) {
        boolQuery.filter(QueryBuilders
                .rangeQuery("price").lte(params.getMaxPrice()).gte(params.getMinPrice()));
    }

    // 2. 算分查询
    FunctionScoreQueryBuilder functionScoreQuery =
            QueryBuilders.functionScoreQuery(
                    // 原始查询，相关信算法的查询
                    boolQuery,
                    // function score 数组
                    new FunctionScoreQueryBuilder.FilterFunctionBuilder[]{
                            // 其中一个具体的 function score
                            new FunctionScoreQueryBuilder.FilterFunctionBuilder(
                                    // 过滤条件
                                    QueryBuilders.termQuery("isAD", true),
                                    // 算分函数
                                    ScoreFunctionBuilders.weightFactorFunction(10)
                            )
                    });

    request.source().query(functionScoreQuery);
}

对上述代码的详细说明：

  • RequestParams 是一个封装了前端请求参数的对象，里面包含了 ES 文档中的各个字段；
  • 在这个方法中，首先构建了一个 boolQuery 作为原始查询条件，包含了关键字搜索、城市、品牌、星级和价格范围等多个条件；
  • 接着，构建了一个 functionScoreQuery，将原始查询作为参数传入，同时定义了一个 FilterFunctionBuilder，用于处理广告部分的查询，对广告文档的分数进行加权，使其在查询结果中更靠前显示；
  • 最后，将 functionScoreQuery 设置为请求的查询条件。

这个综合的查询案例涵盖了多个条件的组合查询以及对特定文档的加权分数处理。在实际应用中，可以根据业务需求扩展和修改这个查询方法。

四、对查询结果的处理

4.1 将查询结果按照自己的距离远近排序

在前端查询酒店数据的时候，一般都会定位获取到自己当前的位置，然后传递给后端。

  • RequestParams 作为前端参数的封装对象，包含了这个位置信息，可通过get 方法进行获取；
  • 然后可以通过 SortBuilders 中的 geoDistanceSort 方法计算距离并进行排序操作，即可获取酒店与自己的实际距离。
java 复制代码 
String location = params.getLocation();
if (location != null && !location.isEmpty()) {
    request.source().sort(SortBuilders
            .geoDistanceSort("location", new GeoPoint(location))
            .order(SortOrder.ASC)
            .unit(DistanceUnit.KILOMETERS)
    );
}

4.2 根据前端请求参数进行分页操作

分页需要的页码以及页面大小一般都由前端传递参数给后端，然后后端获取这两个参数进行分页操作。

  • RequestParams 作为前端参数的封装对象，包含了这两个参数，可通过get 方法进行获取；
  • 然后再根据分页偏移量的计算公式offset = (page - 1) * size 即可获取偏移量，然后通过 source 的 from 和 size 方法，即可实现分页查询。

例如：

java 复制代码 
int page = params.getPage();
            int size = params.getSize();
            request.source().from((page - 1) * size).size(size);

4.3 对搜索关键字进行高亮处理

要对搜索关键字进行高亮处理同样非常简单，只需要使用 resouce 中的 highlighter 方法指定要进行高亮的字段即可。

实现的示例代码如下：

java 复制代码 
@Test
void testHighlight() throws IOException {

    // 1. 准备Request
    SearchRequest request = new SearchRequest("hotel");

    // 2. 组织 DSL 请求
    // 2.1 query
    request.source().query(QueryBuilders.matchQuery("all", "如家"));

    // 2.2 设置高亮
    request.source().highlighter(new HighlightBuilder().field("name").requireFieldMatch(false));

    // 3. 发送请求
    SearchResponse response = client.search(request, RequestOptions.DEFAULT);

    // 4. 解析结果
    List<HotelDoc> hotelDocs = handleResponse(response);
    System.out.println(hotelDocs);
}

说明：

注意requireFieldMatch方法的作用是高亮的字段是否需要和搜索的字段匹配。例如：使用字段 all 查询匹配 brand 字段，此时 brand 字段使用了 copy_to 到 all 字段，因此要高亮的字段并不匹配，如果不设置 requireFieldMatch 为 false 则会高亮失败。

对结果的解析：

实现高亮的原理是对搜索关键字加上了 <em> </em> 标签，通过在 Kibana 中使用高亮处理的 DSL 语句可以发现：

其实高亮的处理并没有作用到查询出的原始文档中，而是在每个 hits 里面新增了一个 highlight 字段，里面包含了高亮的关键字，因此还需要对 handleResponse 函数进行改造，使得能够处理高亮的查询结果：

例如，在handleResponse 函数的 result.add(hotelDoc) 这句代码之前，新增了以下代码用于处理高亮的情况，即使用高亮处理了的关键字替换查询结果中对应的关键字：

java 复制代码 
// 获取高亮结果
Map<String, HighlightField> highlightFields = hit.getHighlightFields();
if(highlightFields != null && !highlightFields.isEmpty()) {
    // 获取高亮名称
    HighlightField highlightField = highlightFields.get("name");
    // 获取高亮的值
    String name = highlightField.getFragments()[0].toString();
    hotelDoc.setName(name);
}

当运行这段测试代码，即可发现成功对 name 字段的 "如家" 添加了 <em> </em> 标签：

相关推荐
hengzhepa3 小时前
ElasticSearch备考 -- Async search
大数据·学习·elasticsearch·搜索引擎·es
bubble小拾11 小时前
ElasticSearch高级功能详解与读写性能调优
大数据·elasticsearch·搜索引擎
不能放弃治疗12 小时前
重生之我们在ES顶端相遇第 18 章 - Script 使用(进阶)
elasticsearch
hengzhepa12 小时前
ElasticSearch备考 -- Search across cluster
学习·elasticsearch·搜索引擎·全文检索·es
Elastic 中国社区官方博客14 小时前
Elasticsearch：使用 LLM 实现传统搜索自动化
大数据·人工智能·elasticsearch·搜索引擎·ai·自动化·全文检索
慕雪华年15 小时前
【WSL】wsl中ubuntu无法通过useradd添加用户
linux·ubuntu·elasticsearch
Elastic 中国社区官方博客17 小时前
使用 Vertex AI Gemini 模型和 Elasticsearch Playground 快速创建 RAG 应用程序
大数据·人工智能·elasticsearch·搜索引擎·全文检索
alfiy18 小时前
Elasticsearch学习笔记（四） Elasticsearch集群安全配置一
笔记·学习·elasticsearch
alfiy19 小时前
Elasticsearch学习笔记(五）Elastic stack安全配置二
笔记·学习·elasticsearch
丶21361 天前
【大数据】Elasticsearch 实战应用总结
大数据·elasticsearch·搜索引擎
热门推荐
01【经验分享】Ubuntu22.04安装微信(linux官方版)02安卓系列机型永久去除data分区加密 详细步骤解析032024年高教社杯数学建模国赛C题超详细解题思路分析04CTF网络安全大赛简单的web抓包题目：HEADache05组基轨迹建模 GBTM的介绍与实现（Stata 或 R）06【2024数模国赛赛题思路公开】国赛B题思路丨附可运行代码丨无偿自提07pve(Proxmox VE)安装i225v网卡驱动08苍穹外卖面试总结09【2024高教社杯全国大学生数学建模竞赛】B题 生产过程中的决策问题——解题思路 代码 论文10RAG 实践- Ollama+RagFlow 部署本地知识库