【Elasticsearch】映射:fielddata 详解

映射:fielddata 详解

  • [1.fielddata 是什么](#1.fielddata 是什么)
  • [2.fielddata 的工作原理](#2.fielddata 的工作原理)
  • 3.主要用法
    • [3.1 启用 fielddata(通常在 text 字段上)](#3.1 启用 fielddata(通常在 text 字段上))
    • [3.2 监控 fielddata 使用情况](#3.2 监控 fielddata 使用情况)
    • [3.3 清除 fielddata 缓存](#3.3 清除 fielddata 缓存)
  • 4.使用场景示例
    • [示例 1:对 text 字段进行聚合](#示例 1:对 text 字段进行聚合)
    • [示例 2:对 text 字段进行排序](#示例 2:对 text 字段进行排序)
  • [5.fielddata 与 doc_values 的区别](#5.fielddata 与 doc_values 的区别)
  • 6.注意事项
  • 7.最佳实践

1.fielddata 是什么

fielddata 是 Elasticsearch 中一种数据结构,用于在内存中缓存字段数据,主要服务于以下场景:

  • 聚合操作(Aggregations)
  • 排序(Sorting)
  • 脚本计算(Scripting)
  • 某些类型的查询 (如 field 字段上的 term 查询)

当需要对 text 字段或其他非 doc_values 支持的字段执行上述操作时,Elasticsearch 需要将这些字段的值加载到内存中,这就是 fielddata 的作用。

2.fielddata 的工作原理

  • 按需加载:当第一次需要对某个字段执行聚合 / 排序等操作时,Elasticsearch 会从磁盘读取该字段的所有值并构建内存中的数据结构。
  • 存储在 JVM 堆内存 :fielddata 会占用 JVM 堆内存空间。
  • 字段级启用 :默认情况下,text 字段禁用 fielddata,keyword 字段使用 doc_values 而非 fielddata。

3.主要用法

3.1 启用 fielddata(通常在 text 字段上)

json 复制代码
PUT my_index/_mapping
{
  "properties": {
    "my_text_field": { 
      "type":     "text",
      "fielddata": true
    }
  }
}

3.2 监控 fielddata 使用情况

json 复制代码
GET _nodes/stats/indices/fielddata?fields=*

3.3 清除 fielddata 缓存

json 复制代码
POST my_index/_cache/clear?fielddata=true

4.使用场景示例

示例 1:对 text 字段进行聚合

json 复制代码
GET my_index/_search
{
  "size": 0,
  "aggs": {
    "my_terms": {
      "terms": {
        "field": "my_text_field"  // 需要该字段启用 fielddata
      }
    }
  }
}

示例 2:对 text 字段进行排序

json 复制代码
GET my_index/_search
{
  "sort": [
    {
      "my_text_field": {
        "order": "asc"
      }
    }
  ]
}

5.fielddata 与 doc_values 的区别

特性 fielddata doc_values
构建时机 查询时按需构建 索引时预先构建
存储位置 JVM 堆内存 磁盘(操作系统缓存)
内存占用 高 低
适用字段类型 主要为 text 字段 主要为 keyword / numeric / date 等字段
默认启用 text 字段默认禁用 支持的字段默认启用

6.注意事项

  • 内存消耗 :fielddata 会显著增加内存使用,特别是高基数(大量唯一值)字段。
  • 性能影响 :首次加载 fielddata 可能导致查询延迟。
  • 替代方案 :对于 keyword / numeric / date 等字段,优先使用 doc_values。
  • 熔断机制 :Elasticsearch 有 fielddata 熔断器防止内存耗尽。

7.最佳实践

  • 尽量避免在 text 字段上启用 fielddata。

  • 如需对文本进行聚合/排序,考虑使用多字段(multi-field)映射:

    json 复制代码
    "my_field": {
      "type": "text",
      "fields": {
        "keyword": {
          "type": "keyword"
        }
      }
    }

    然后对 my_field.keyword 进行操作。

  • 监控 fielddata 内存使用,设置合理的熔断阈值。

相关推荐
AntsData9 分钟前
用 12K+ 条亚马逊评论信号,定位机械键盘下一版该改什么
java·大数据·计算机外设
蓝鲨硬科技1 小时前
Token之后,物理AI需要什么样的度量衡?
大数据·人工智能
GlobalInfo1 小时前
管道检测机器人行业调查、市场规模、排名分析报告2026-2032
大数据·人工智能·机器人
Elasticsearch1 小时前
使用 Qoder 将 CSV 文件导入 Elasticsearch
elasticsearch
ManageEngineITSM1 小时前
工单分类怎么设计?类别、子类别与自动分派的实用方法
大数据·服务器·数据库·人工智能·分类·数据挖掘
字节跳动数据平台2 小时前
让企业本体真正运转起来:火山引擎知识引擎VeKnow 的三层重构与业务实践
大数据
FII工业富联科技服务2 小时前
多智能体如何进入制造现场?从业务协同到数字孪生验证
大数据·人工智能·算法·机器人·制造·数字孪生
Wang's Blog2 小时前
Java 项目实战:交友项目 - FastDFS 工作原理
java·大数据·交友
合合技术团队3 小时前
企业级Agent服务平台选型指南:从需求匹配到场景落地,文档解析工具怎么选?
大数据·人工智能·agent·多模态文本智能技术·企业级agent服务平台
AllData公司负责人3 小时前
AllData 可定义数据中台完成信创适配|银河麒麟 + 海光X86 CPU / 华为鲲鹏ARM CPU+ OceanBase / 人大金仓国产化环境部署落地
大数据·arm开发·数据库·人工智能·oceanbase·kingbase