ElasticSearch-数据建模

  • 处理关联关系
    • Object: 优先考虑反范式(Denormalization)
    • Nested: 当数据包含多数值对象,同时有查询需求
    • Child/Parent:关联文档更新非常频繁时
  • 避免过多字段
    • 一个文档中,最好避免大量的字段
      • 过多的字段数不容易维护
      • Mapping 信息保存在 Cluster State 中,数据量过大,对集群性能会有影响
      • 删除或者修改数据需要reindex
    • 默认最大字段数是1000,可以设置index.mapping.total_fields.limit限定最大字段数
    • 生产环境中,尽量不要打开 Dynamic,可以使用Strict控制新增字段的加入
      • true :未知字段会被自动加入
      • false :新字段不会被索引,但是会保存在_source
      • strict :新增字段不会被索引,文档写入失败
    • 对于多属性的字段,比如cookie,商品属性,可以考虑使用Nested
  • 避免正则,通配符,前缀查询
    • 正则,通配符查询,前缀查询属于Term查询,但是性能不够好
    • 特别是将通配符放在开头,会导致性能的灾难
  • 避免空值引起的聚合不准
rest 复制代码
PUT /scores
{"mappings":{"properties":{"score":{"type":"float","null_value":0}}}}
  • 为索引的 Mapping 加入 Meta 信息
    • Mappings设置非常重要,需要从两个维度进行考虑
      • 功能︰搜索,聚合,排序
      • 性能︰存储的开销; 内存的开销; 搜索的性能
    • Mappings设置是一个迭代的过程
      • 加入新的字段很容易(必要时需要update_by_query)
      • 更新删除字段不允许(需要Reindex重建数据)
      • 最好能对 Mappings 加入 Meta 信息,更好的进行版本管理
      • 可以考虑将 Mapping 文件上传 git 进行管理
rest 复制代码
PUT /my_index
{"mappings":{"_meta":{"index_version_mapping":"1.1"}}}
相关推荐
腾讯云大数据13 小时前
从辅助驾驶到自主闭环:腾讯云ES的Agentic AIOps实践
elasticsearch·云计算·腾讯云
坐吃山猪15 小时前
ES08-ES使用IK分词器
大数据·elasticsearch·搜索引擎
KING-WU51218 小时前
Git 版本控制器实战指南
大数据·git·elasticsearch
SelectDB技术团队18 小时前
日志场景 Elasticsearch 替换实操:建表、索引、写入链路与查询改写的完整参数
大数据·数据库·数据仓库·elasticsearch·全文检索·日志分析·apache doris
打工仔折腾 AI19 小时前
Spring AI + Qwen 周报生成实战:从原始日志到人工确认卡
人工智能·后端·python·spring·elasticsearch·ai agent 实战
深蓝电商API20 小时前
亿级数据的存储选型:MongoDB/ES/ClickHouse横评
爬虫·clickhouse·mongodb·elasticsearch
Elasticsearch1 天前
弥合人工智能差距:新一代知识获取方式如何助力政府实现使命目标
elasticsearch
Elasticsearch1 天前
教程:监控 Java 应用
elasticsearch
Elastic 中国社区官方博客1 天前
一条 ES|QL 查询,涵盖365天的审计日志:在热数据和可搜索快照上执行相同的搜索
大数据·运维·服务器·elasticsearch·搜索引擎·全文检索
Elasticsearch2 天前
Elasticsearch:Connector API 教程 - PG 和 ES 的同步
elasticsearch