第9章 MongoDB聚合管道实战(一):$project操作符的应用与技巧

在上一篇文章【MongoDB性能提升--索引详解与实战案例】中,通过上述索引的设置与应用,我们已经看到了查询性能的显著改善。然而,在处理更加复杂的数据分析需求时,仅仅依靠索引是不够的。MongoDB的聚合框架提供了强大的工具来处理数据的汇总、过滤等操作,使我们能够在数据库层面完成数据分析工作。下文中,我们将探讨如何利用MongoDB的聚合管道来实现这样的高级功能。

知识回顾

MongoDB 的聚合管道提供了一系列强大的操作符,用于处理和分析数据。以下是一些常用的聚合阶段及其介绍:

1. $match

  • 功能:过滤文档以指定条件。

  • 使用场景:在数据流经过管道时,选择符合条件的文档进行后续处理。

  • 示例

    css 复制代码
    { $match: { status: "active" } }

2. $group

  • 功能:将多个文档分组,并对每个组进行聚合操作(例如求和、计数等)。

  • 使用场景:进行汇总计算,如计算总销售额、平均值等。

  • 示例

    bash 复制代码
    {
      $group: {
        _id: "$customer_id",
        totalSales: { $sum: "$amount" }
      }
    }

3. $sort

  • 功能:对文档进行排序。

  • 使用场景:根据特定字段的值进行升序或降序排序。

  • 示例

    css 复制代码
    { $sort: { totalSales: -1 } } // 降序排序

4. $project

  • 功能:选择、重命名或计算字段。

  • 使用场景:输出所需的字段,进行字段的格式化或计算。

  • 示例

    bash 复制代码
    {
      $project: {
        stu_name: 1,
        averageScore: { $avg: "$scores" }
      }
    }

5. $limit

  • 功能:限制返回的文档数量。

  • 使用场景:控制输出结果集的大小。

  • 示例

    bash 复制代码
    { $limit: 5 }

6. $skip

  • 功能:跳过指定数量的文档。

  • 使用场景:常用于分页,跳过前面的文档。

  • 示例

    bash 复制代码
    { $skip: 10 }

7. $unwind

  • 功能:将数组字段拆分为多条文档,每个文档只包含数组中的一个元素。

  • 使用场景:处理文档中包含数组字段的情况,便于进一步分析。

  • 示例

    bash 复制代码
    { $unwind: "$items" }

8. $addFields

  • 功能:向文档添加新字段或更新现有字段。

  • 使用场景:在管道中动态计算和添加字段。

  • 示例

    bash 复制代码
    {
      $addFields: {
        totalPrice: { $multiply: ["$price", "$quantity"] }
      }
    }

9. $replaceRoot

  • 功能:替换输入文档为指定文档。

  • 使用场景:当需要将嵌套文档提升为根文档时使用。

  • 示例

    bash 复制代码
    {
      $replaceRoot: { newRoot: "$details" }
    }

10. $facet

  • 功能:进行多管道并行处理,可以在同一集合上进行不同的聚合查询。

  • 使用场景:在一个聚合操作中获得多个不同的结果。

  • 示例

    css 复制代码
    {
      $facet: {
        totalSales: [{ $group: { _id: null, total: { $sum: "$amount" } }}],
        averageSales: [{ $group: { _id: null, average: { $avg: "$amount" } }}]
      }
    }

11. $lookup

  • 功能:进行集合间的连接操作(类似 SQL 的 JOIN)。

  • 使用场景:将来自其他集合的数据合并到当前文档。

  • 示例

    css 复制代码
    {
      $lookup: {
        from: "customers",
        localField: "customer_id",
        foreignField: "_id",
        as: "customerInfo"
      }
    }

任务描述

使用 MongoDB 的聚合管道计算每位学生的平均成绩,并找出表现最好的学生。利用聚合管道中的 $project$sort$limit 等操作符,可以方便地进行数据分析与处理,满足具体的业务需求。 假设我们有一个 student 集合,记录了学生的姓名、学号和他们在不同科目的成绩。集合中的文档结构如下:

css 复制代码
{
  "_id": ObjectId("..."),
  "stu_no": "S0001",
  "stu_name": "张小峰",
  "scores": {
    "math": 85,
    "english": 92,
    "science": 78
  }
}

我们希望计算每位学生的平均成绩,并根据平均成绩找出前两名表现最好的学生。

任务准备

首先,我们需要插入一些示例数据:

php 复制代码
db.students.insertMany([
  {
    stu_no: "S0001",
    stu_name: "张小峰",
    scores: { math: 85, english: 92, science: 78 }
  },
  {
    stu_no: "S0002",
    stu_name: "李小平",
    scores: { math: 78, english: 80, science: 88 }
  },
  {
    stu_no: "S0003",
    stu_name: "刘知民",
    scores: { math: 95, english: 90, science: 85 }
  },
  {
    stu_no: "S0004",
    stu_name: "黄海涛",
    scores: { math: 70, english: 75, science: 80 }
  },
  {
    stu_no: "S0005",
    stu_name: "李小苒",
    scores: { math: 60, english: 70, science: 65 }
  }
]);

任务实施

聚合管道实现

使用以下聚合管道计算学生的平均成绩,并找出前两名的表现最佳学生:

php 复制代码
db.students.aggregate([
  {
    $project: {
      stu_no: 1,
      stu_name: 1,
      averageScore: {
        $avg: [
          "$scores.math",
          "$scores.english",
          "$scores.science"
        ]
      }
    }
  },
  {
    $sort: { averageScore: -1 } // 按平均成绩降序排序
  },
  {
    $limit: 2 // 只返回前两名
  }
]);

聚合管道分解

  1. $project

    • stu_no: 1stu_name: 1:保留学生的学号和姓名。
    • averageScore:计算每位学生的平均成绩。$avg 操作符用于计算分数的平均值。
  2. $sort

    • { averageScore: -1 }:按照计算出的平均成绩进行降序排序。
  3. $limit

    • 限制结果只返回前两名表现最佳的学生。

执行结果

执行上述聚合管道后,您将获得类似如下的结果:

css 复制代码
[  { "stu_no": "S0003", "stu_name": "刘知民", "averageScore": 90 },  { "stu_no": "S0001", "stu_name": "张小峰", "averageScore": 85 }]

这表明学生 刘知民 的平均成绩最高,达到了 90 分,其次是学生 张小峰,平均成绩为 85 分。

实验实训

使用聚合管道中的 $unwind$group$project 等操作符在处理复杂的数据时表现出色。

总结

通过以上案例,我们展示了如何使用 MongoDB 的聚合管道计算每位学生的平均成绩,并找出表现最好的学生。利用聚合管道中的 $project$sort$limit 等操作符,可以方便地进行数据分析与处理,满足具体的业务需求。这种灵活性使得 MongoDB 成为处理复杂数据分析任务的理想选择。下一篇我们继续讲解聚合管理$group应用。

相关推荐
SparkSql10 分钟前
HBase批量写入优化
大数据·数据库·hbase
goTsHgo11 分钟前
HBase 的二级索引和配置实现
大数据·数据库·hbase
微刻时光28 分钟前
Redis中BigKey与MoreKey优化笔记
数据库·经验分享·redis·笔记
代码在改了1 小时前
【2025】基于Django的鱼类科普网站(源码+文档+调试+答疑)
后端·python·django
景天科技苑1 小时前
【Golang】Go语言中时间time相关处理方法
开发语言·后端·golang·time·go语言时间处理·go语言time
凡人的AI工具箱1 小时前
15分钟学 Python 第34天 :小项目-个人博客网站
开发语言·数据结构·人工智能·后端·python
@素素~1 小时前
OceanBase—02(入门篇——对于单副本单节点,由1个observer扩容为3个observer集群)——之前的记录,当初有的问题未解决,目前新版未尝试
数据库·oceanbase
mit6.8242 小时前
[Linux#60][HTTPS] 加密 | 数字指纹 | 详解HTTPS工作方案 | CA认证
linux·网络·笔记·后端·网络协议·https
叫我DPT2 小时前
Flask-1
后端·python·flask
爱学的小涛2 小时前
【MySQL】常见的SQL优化方式(二)
数据库·笔记·后端·sql·mysql