Elasticsearch 聚合概览及示例

Elasticsearch 是一个强大的搜索引擎,除了提供搜索功能外,它还内置了丰富的聚合功能,允许用户对数据进行统计、分析和运算。聚合可以帮助我们理解数据的分布和统计特性,是数据探索和报告的重要工具。本文将介绍 Elasticsearch 中的三种主要聚合类型:桶(Bucket)聚合、度量(Metric)聚合和管道(Pipeline)聚合,并提供示例说明。

桶(Bucket)聚合

桶聚合主要用于对文档进行分组,并统计每组的文档数量。以下是几种常见的桶聚合:

  • TermAggregation:按照文档字段的词条值分组。
  • Date Histogram:按照日期阶梯分组,如按周、月或年分组。

示例:TermAggregation

假设我们有一个酒店预订数据索引,我们可以使用 TermAggregation 来统计每个城市的酒店数量。

json 复制代码
GET /hotel/_search
{
  "size": 0, // 不需要原始文档,只需要聚合结果
  "aggs": {
    "city_buckets": {
      "terms": {
        "field": "city"
      }
    }
  }
}

度量(Metric)聚合

度量聚合用于计算数值类型的字段,例如求平均值、最大值、最小值等。

  • Avg:计算平均值。
  • Max:找出最大值。
  • Min:找出最小值。
  • Stats:同时计算最大值、最小值、平均值和总和。

示例:Avg 和 Stats

继续使用酒店预订数据索引,我们可以计算每个城市酒店的平均价格和价格范围。

json 复制代码
GET /hotel/_search
{
  "size": 0,
  "aggs": {
    "price_stats": {
      "stats": {
        "field": "price"
      }
    },
    "average_price": {
      "avg": {
        "field": "price"
      }
    }
  }
}

管道(Pipeline)聚合

管道聚合是基于其他聚合结果进行的聚合,例如我们可以计算每个城市酒店价格的标准差或累计总和。

  • Derivative:计算相邻文档的度量聚合值的差异。
  • Sum Bucket:计算指定度量聚合的总和。

示例:Sum Bucket

如果我们想要计算所有城市酒店的总价格,然后查看每个城市价格的累计总和,我们可以使用 Sum Bucket 管道聚合。

json 复制代码
GET /hotel/_search
{
  "size": 0,
  "aggs": {
    "total_price": {
      "sum": {
        "field": "price"
      }
    },
    "city_price_sums": {
      "terms": {
        "field": "city"
      },
      "aggs": {
        "cumulative_price": {
          "sum_bucket_selector": {
            "buckets_path": "_price",
            "script": "params.aggregations['total_price'].value"
          }
        }
      }
    }
  }
}

结语

Elasticsearch 的聚合功能为数据分析提供了强大的支持。桶聚合帮助我们对数据进行分组统计,度量聚合让我们可以计算数值字段的各种统计数据,而管道聚合则让我们在其他聚合的基础上进一步分析数据。理解并掌握这些聚合类型,可以帮助我们更深入地洞察数据,为决策提供数据支持。希望本文能够帮助你更好地利用 Elasticsearch 的聚合功能进行数据分析。

相关推荐
瞎胡侃29 分钟前
Spark读取Apollo配置
大数据·spark·apollo
悻运31 分钟前
如何配置Spark
大数据·分布式·spark
懒惰的橘猫42 分钟前
Spark集群搭建之Yarn模式
大数据·分布式·spark
2401_824256861 小时前
Spark-Streaming
大数据·分布式·spark
胡耀超1 小时前
附1:深度解读:《金融数据安全 数据安全分级指南》——数据分类的艺术专栏系列
大数据·金融·数据治理·生命周期·数据分类·政策法规
合新通信 | 让光不负所托1 小时前
【合新通信】浸没式液冷光模块与冷媒兼容性测试技术报告
大数据·网络·光纤通信
元6332 小时前
spark和hadoop之间的对比和联系
大数据·hadoop·spark
秋秋秋秋秋雨2 小时前
linux安装单节点Elasticsearch(es),安装可视化工具kibana
linux·elasticsearch·jenkins
cooldream20092 小时前
深入解析大数据的Lambda架构:设计、特点与应用场景
大数据·架构·系统架构师
淋一遍下雨天3 小时前
Spark-Streaming核心编程
大数据·kafka