Elasticsearch 如何处理 Aggs 顺序中的大写字母和小写字母?

Elasticsearch 排序允许你根据特定条件对搜索结果进行排序。 然而,在排序时处理区分大小写时,Elasticsearch 将大写和小写字母视为不同的字符,分别对它们进行排序。 这是因为 ASCII 表顺序是从大写 A 到小写 z。

默认情况下,Elasticsearch 按以下顺序对字符串进行排序:首先是数字,然后是大写字母,最后是小写字母。 例如,如果您有术语 "Apple"、"apple"、"banana"、"Carrot" 和 "1apple",它们将按升序排序为"1apple"、"Apple"、"Carrot"、" apple"、"banana"。

bash 复制代码
1.  POST /test_casing/_bulk
2.  { "index" : {} }
3.  { "my_field" : "Apple" }
4.  { "index" : {} }
5.  { "my_field" : "apple" }
6.  { "index" : {} }
7.  { "my_field" : "banana" }
8.  { "index" : {} }
9.  { "my_field" : "Carrot" }
10.  { "index" : {} }
11.  { "my_field" : "1apple" }

这种默认行为可能并不总是令人满意。 例如,如果你对值 "Apple"、"banana" 和 "Carrot" 建立了索引,并且使用升序排列,那么你将得到 "Apple"、"Carrot" 和"banana"。 但是,你可能想要 "Apple"、"banana"、"Carrot"。

为此,你可以使用 Elasticsearch 中称为规范化器(normalizer)的功能。 规范化器与关键字字段类型一起使用,允许你以类似于分析文本的方式预处理关键字字段的输入。

然而,与分析器不同,规范化器不会将输入分解为标记。 这使得它适合需要对整个输入进行索引或排序的关键字字段类型。

bash 复制代码
1.  PUT /test_casing2
2.  {
3.    "settings": {
4.      "analysis": {
5.        "normalizer": {
6.          "my_normalizer": {
7.            "type": "custom",
8.            "filter": [
9.              "lowercase"
10.            ]
11.          }
12.        }
13.      }
14.    },
15.    "mappings": {
16.      "properties": {
17.        "my_field": {
18.          "type": "keyword",
19.          "normalizer": "my_normalizer"
20.        }
21.      }
22.    }
23.  }
bash 复制代码
1.  POST /test_casing2/_bulk
2.  {"index":{}}
3.  {"my_field":"Apple"}
4.  {"index":{}}
5.  {"my_field":"apple"}
6.  {"index":{}}
7.  {"my_field":"banana"}
8.  {"index":{}}
9.  {"my_field":"bananA"}
10.  {"index":{}}
11.  {"my_field":"Carrot"}

需要注意的是,使用标准化器会改变索引中的值。 如果你想保留原始值,例如带有大写 "A" 的 "Apple",你可以使用子字段(sub-fields)。 这允许你保留原始字段值和标准化字段值。 在聚合结果中,Elasticsearch 将仅显示你在聚合中使用的字段

不幸的是,Elasticsearch 不支持直接在术语聚合中进行不区分大小写的排序。 即使使用脚本聚合和标准化器,也不可能以不区分大小写的方式排序并区分大小写地显示结果。 这是用户在使用 Elasticsearch 时应该注意的限制。

如何向现有索引添加标准化器?

让我们看一下在 Elasticsearch 中向现有索引添加规范器的过程的实际示例。 此过程涉及几个步骤:关闭索引、更新设置、重新打开索引、更新映射、更新数据索引,最后运行查询。

首先,你需要使用以下命令关闭索引:

bash 复制代码
POST test_casing/_close

接下来,你更新索引的设置以添加标准化器。 在本例中,我们添加一个应用小写过滤器的自定义规范化器:

bash 复制代码
1.  PUT test_casing/_settings
2.  {
3.    "analysis": {
4.      "normalizer": {
5.        "my_normalizer": {
6.          "type": "custom",
7.          "filter": [
8.            "lowercase"
9.          ]
10.        }
11.      }
12.    }
13.  }

更新设置后,你可以重新打开索引:

bash 复制代码
POST test_casing/_open

现在,你需要更新索引的映射以使用规范器。 在这里,我们向 "my_field" 添加一个使用标准化器的子字段:

bash 复制代码
1.  PUT test_casing/_mapping
2.  {
3.    "properties": {
4.      "my_field": {
5.        "type": "text",
6.        "fields": {
7.          "normalized": {
8.            "type": "keyword",
9.            "normalizer": "my_normalizer"
10.          }
11.        }
12.      }
13.    }
14.  }

请注意,my_field.normalized 是字段名称。

接下来,你可以通过运行 update_by_query 来更新数据索引,这将在 my_field.normalized 字段内添加数据:

bash 复制代码
POST test_casing/_update_by_query

最后,你可以对索引运行搜索查询。 在本例中,我们在新的标准化字段上运行聚合:

markdown 复制代码
1.  GET /test_casing/_search
2.  {
3.    "size": 0,
4.    "aggs": {
5.      "my_terms": {
6.        "terms": {
7.          "field": "my_field.normalized"
8.        }
9.      }
10.    }
11.  }

此过程演示了如何将规范器添加到 Elasticsearch 中的现有索引,从而使你能够更灵活地处理区分大小写的问题。

相关推荐
Elastic 中国社区官方博客8 小时前
如何将数据从 AWS S3 导入到 Elastic Cloud - 第 3 部分:Elastic S3 连接器
大数据·elasticsearch·搜索引擎·云计算·全文检索·可用性测试·aws
掘金-我是哪吒8 小时前
微服务mysql,redis,elasticsearch, kibana,cassandra,mongodb, kafka
redis·mysql·mongodb·elasticsearch·微服务
研究是为了理解10 小时前
Git Bash 常用命令
git·elasticsearch·bash
晨欣13 小时前
Elasticsearch和Lucene之间是什么关系?(ChatGPT回答)
elasticsearch·chatgpt·lucene
筱源源19 小时前
Elasticsearch-linux环境部署
linux·elasticsearch
Elastic 中国社区官方博客1 天前
释放专利力量:Patently 如何利用向量搜索和 NLP 简化协作
大数据·数据库·人工智能·elasticsearch·搜索引擎·自然语言处理
Shenqi Lotus1 天前
ELK-ELK基本概念_ElasticSearch的配置
elk·elasticsearch
yeye198912242 天前
10-Query & Filtering 与多字符串多字段查询
elasticsearch
Narutolxy2 天前
精准优化Elasticsearch:磁盘空间管理与性能提升技巧20241106
大数据·elasticsearch·jenkins
谢小涛2 天前
ES管理工具Cerebro 0.8.5 Windows版本安装及启动
elasticsearch·es·cerebro