Elasticsearch 如何处理 Aggs 顺序中的大写字母和小写字母?

Elasticsearch 排序允许你根据特定条件对搜索结果进行排序。 然而,在排序时处理区分大小写时,Elasticsearch 将大写和小写字母视为不同的字符,分别对它们进行排序。 这是因为 ASCII 表顺序是从大写 A 到小写 z。

默认情况下,Elasticsearch 按以下顺序对字符串进行排序:首先是数字,然后是大写字母,最后是小写字母。 例如,如果您有术语 "Apple"、"apple"、"banana"、"Carrot" 和 "1apple",它们将按升序排序为"1apple"、"Apple"、"Carrot"、" apple"、"banana"。

bash 复制代码
1.  POST /test_casing/_bulk
2.  { "index" : {} }
3.  { "my_field" : "Apple" }
4.  { "index" : {} }
5.  { "my_field" : "apple" }
6.  { "index" : {} }
7.  { "my_field" : "banana" }
8.  { "index" : {} }
9.  { "my_field" : "Carrot" }
10.  { "index" : {} }
11.  { "my_field" : "1apple" }

这种默认行为可能并不总是令人满意。 例如,如果你对值 "Apple"、"banana" 和 "Carrot" 建立了索引,并且使用升序排列,那么你将得到 "Apple"、"Carrot" 和"banana"。 但是,你可能想要 "Apple"、"banana"、"Carrot"。

为此,你可以使用 Elasticsearch 中称为规范化器(normalizer)的功能。 规范化器与关键字字段类型一起使用,允许你以类似于分析文本的方式预处理关键字字段的输入。

然而,与分析器不同,规范化器不会将输入分解为标记。 这使得它适合需要对整个输入进行索引或排序的关键字字段类型。

bash 复制代码
1.  PUT /test_casing2
2.  {
3.    "settings": {
4.      "analysis": {
5.        "normalizer": {
6.          "my_normalizer": {
7.            "type": "custom",
8.            "filter": [
9.              "lowercase"
10.            ]
11.          }
12.        }
13.      }
14.    },
15.    "mappings": {
16.      "properties": {
17.        "my_field": {
18.          "type": "keyword",
19.          "normalizer": "my_normalizer"
20.        }
21.      }
22.    }
23.  }
bash 复制代码
1.  POST /test_casing2/_bulk
2.  {"index":{}}
3.  {"my_field":"Apple"}
4.  {"index":{}}
5.  {"my_field":"apple"}
6.  {"index":{}}
7.  {"my_field":"banana"}
8.  {"index":{}}
9.  {"my_field":"bananA"}
10.  {"index":{}}
11.  {"my_field":"Carrot"}

需要注意的是,使用标准化器会改变索引中的值。 如果你想保留原始值,例如带有大写 "A" 的 "Apple",你可以使用子字段(sub-fields)。 这允许你保留原始字段值和标准化字段值。 在聚合结果中,Elasticsearch 将仅显示你在聚合中使用的字段

不幸的是,Elasticsearch 不支持直接在术语聚合中进行不区分大小写的排序。 即使使用脚本聚合和标准化器,也不可能以不区分大小写的方式排序并区分大小写地显示结果。 这是用户在使用 Elasticsearch 时应该注意的限制。

如何向现有索引添加标准化器?

让我们看一下在 Elasticsearch 中向现有索引添加规范器的过程的实际示例。 此过程涉及几个步骤:关闭索引、更新设置、重新打开索引、更新映射、更新数据索引,最后运行查询。

首先,你需要使用以下命令关闭索引:

bash 复制代码
POST test_casing/_close

接下来,你更新索引的设置以添加标准化器。 在本例中,我们添加一个应用小写过滤器的自定义规范化器:

bash 复制代码
1.  PUT test_casing/_settings
2.  {
3.    "analysis": {
4.      "normalizer": {
5.        "my_normalizer": {
6.          "type": "custom",
7.          "filter": [
8.            "lowercase"
9.          ]
10.        }
11.      }
12.    }
13.  }

更新设置后,你可以重新打开索引:

bash 复制代码
POST test_casing/_open

现在,你需要更新索引的映射以使用规范器。 在这里,我们向 "my_field" 添加一个使用标准化器的子字段:

bash 复制代码
1.  PUT test_casing/_mapping
2.  {
3.    "properties": {
4.      "my_field": {
5.        "type": "text",
6.        "fields": {
7.          "normalized": {
8.            "type": "keyword",
9.            "normalizer": "my_normalizer"
10.          }
11.        }
12.      }
13.    }
14.  }

请注意,my_field.normalized 是字段名称。

接下来,你可以通过运行 update_by_query 来更新数据索引,这将在 my_field.normalized 字段内添加数据:

bash 复制代码
POST test_casing/_update_by_query

最后,你可以对索引运行搜索查询。 在本例中,我们在新的标准化字段上运行聚合:

markdown 复制代码
1.  GET /test_casing/_search
2.  {
3.    "size": 0,
4.    "aggs": {
5.      "my_terms": {
6.        "terms": {
7.          "field": "my_field.normalized"
8.        }
9.      }
10.    }
11.  }

此过程演示了如何将规范器添加到 Elasticsearch 中的现有索引,从而使你能够更灵活地处理区分大小写的问题。

相关推荐
{⌐■_■}9 小时前
【git】提交修改、回撤、回滚、Tag 操作讲解,与reset (--soft、--mixed、--hard) 的区别
大数据·git·elasticsearch
screamn11 小时前
ElasticSearch详解
大数据·elasticsearch·jenkins
不是乖小孩11 小时前
elasticsearch在windows上的配置
大数据·elasticsearch·jenkins
罗技12311 小时前
推荐给 Easysearch 新用户的几个 Elasticsearch 可视化工具
大数据·elasticsearch·jenkins
光仔December1 天前
【Elasticsearch入门到落地】8、RestClient操作索引库-基础介绍及导入demo
elasticsearch·搜索引擎·全文检索·索引·映射
risc1234561 天前
【Elasticsearch】Retrieve inner hits获取嵌套查询的具体的嵌套文档来源,以及父子文档的来源
elasticsearch
铭毅天下1 天前
极限网关可视化——Elasticsearch 请求流量分析实战
大数据·elasticsearch·搜索引擎·全文检索·jenkins
宇智波云1 天前
ubuntu22.4搭建单节点es8.1
运维·elasticsearch
risc1234561 天前
【Elasticsearch】搜索时排序规则
elasticsearch
铭毅天下1 天前
Elasticsearch 中如何限制和指定 IP 地址的访问?
大数据·tcp/ip·elasticsearch·搜索引擎·全文检索