用批处理使EF Core查询速度提升 3倍

EF Core是一个及其出色的 ORM(对象关系映射)工具,非常适合构建 .NET 应用程序。但它和其他工具一样,如果使用不当,可能影响性能。

在这里向你展示一个简单的方法,可以提升接近4倍的性能。这也不是说你一定会得到相同的性能提升,但理解其核心肯定会对查询速度有改善。

存在性能问题的查询

本文用以下示例来解释这个概念。 它取自一个真正的生产应用程序,但进行了简化。

使用一个InvoiceService来获取给定公司的发票集合。这些发票可能来自第三方API或某些其他持久化存储。现在还缺乏详细的发票行信息,所以需要查询数据库来填补缺失的行信息。

下面的LINQ查询本身并没有太大问题。它通过一次数据库查询返回某个发票的所有行。

但因为我们要对发票集合进行轮询,会多次查询储存行的数据表。所以这段代码有更多的性能提升空间。

ini 复制代码
app.MapGet("invoices/{companyId}", (
    long companyId,
    InvoiceService invoiceService,
    AppDbContext dbContext) =>
{
    IEnumerable<Invoice> invoices = invoiceService.GetForCompanyId(
        companyId,
        take: 10);

    var invoiceDtos = new List<InvoiceDto>();
    foreach (var invoice in invoices)
    {
        var invoiceDto = new InvoiceDto
        {
            Id = invoice.Id,
            CompanyId = invoice.CompanyId,
            IssuedDate = invoice.IssuedDate,
            DueDate = invoice.DueDate,
            Number = invoice.Number
        };

        var lineItemDtos = await dbContext
            .LineItems
            .Where(li => invoice.LineItemIds.Contains(li.Id))
            .Select(li => new LineItemDto
            {
                Id = li.Id,
                Name = li.Name,
                Price = li.Price,
                Quantity = li.Quantity
            })
            .ToArrayAsync();

        invoiceDto.LineItems = lineItemDtos;

        invoiceDtos.Add(invoiceDto);
    }

    return invoiceDtos;
})

解决这个问题的方案也很直接。就是提前查询所有行项目,而不是为每张发票获取行信息。

使用批处理

查询方法是相同的,但重构为只查询一次行项目。这意味着只有一次数据库访问。

最终设计包含三个组成部分:

  1. 将LineItemIds映射到一个HashSet中,这样可以去除重复项。
  2. 通过单次数据库往返查询所有LineItems。
  3. 创建一个LineItemDto字典以便快速查找。

一旦我们有了字典,我们就可以遍历发票并分配行项目。填充行项目变成了字典查找(成本低)而不是数据库查询(成本高)。

在使用这个解决方案之前,还要考虑一件事情, 即一次能从数据库加载多少记录?

假设每张发票平均包含约20个行项目,我们只获取十张发票。在最坏的情况下(所有行项目都是唯一的),我们从数据库加载约200个行项目。大多数数据库可以处理这种负载。但如果你正在读取成千上万行,情况又不一样了, 需要考虑其他方案,例如分页查询。

ini 复制代码
app.MapGet("invoices/{companyId}", (
    long companyId,
    InvoiceService invoiceService,
    AppDbContext dbContext) =>
{
    IEnumerable<Invoice> invoices = invoiceService.GetForCompanyId(
        companyId,
        take: 10);

    HashSet<long> lineItemIds = invoices
        .SelectMany(invoice => invoice.LineItemIds)
        .ToHashSet();

    var lineItemDtos = await context
        .LineItems
        .Where(li => lineItemIds.Contains(li.Id))
        .Select(li => new LineItemDto
        {
            Id = li.Id,
            Name = li.Name,
            Price = li.Price,
            Quantity = li.Quantity
        })
        .ToListAsync();

    Dictionary<long, LineItemDto> lineItemsDictionary =
        lineItemDtos.ToDictionary(keySelector: li => li.Id);

    var invoiceDtos = new List<InvoiceDto>();
    foreach (var invoice in invoices)
    {
        var invoiceDto = new InvoiceDto
        {
            Id = invoice.Id,
            CompanyId = invoice.CompanyId,
            IssuedDate = invoice.IssuedDate,
            DueDate = invoice.DueDate,
            Number = invoice.Number,
            LineItems = invoice
                .LineItemIds
                .Select(li => lineItemsDictionary[li])
                .ToArray()
        };

        invoiceDtos.Add(invoiceDto);
    }

    return invoiceDtos;
})

会快多少?

批处理版本看起来会更快, 真是这样吗?

在第一个版本中,有N个查询(每张发票一个),而在批处理版本中,只有一个查询。

以下是使用BenchmarkDotNet得到的基准测试结果:

foreach版本平均耗时1913.3微秒(us), 批处理版本平均耗时558.6微秒。

批处理版本快了3.42倍。这是使用本地SQL数据库的结果。

如果查询远程数据库,批处理版本应该会更快,因为网络往返时间的影响。当有N个查询(foreach版本)时,这种时间会快速累积。

总结

这个方法的好处在于其简单性和效率。通过批处理数据库查询,显著减少了对数据库的访问次数。这通常是最大的性能瓶颈之一。

但也要理解,这种方法并不是万能的。

EF Core提供了许多功能和优化方法,但如何有效使用它们取决于开发者。

最后,永远记得进行基线测试。在这个案例中看到的改进是通过基线测试量化的。没有适当的测量,很容易做出那些无意中降低性能的, 事与愿违的修改。

相关推荐
葫芦和十三7 小时前
图解 MongoDB 05|文档模型设计:内嵌 vs 引用,反范式不是免费午餐
后端·mongodb·agent
不能放弃治疗11 小时前
单 Agent 实现模式
后端
IT_陈寒13 小时前
Redis内存爆了,原来我漏掉了这个致命配置
前端·人工智能·后端
fliter14 小时前
最后一块拼图:用 bitvec 构造 IPv4 包,真正做出自己的 Ping
后端
fliter15 小时前
用 Rust 解析并生成 ICMP 包:checksum、nom 与 cookie-factory
后端
蝎子莱莱爱打怪15 小时前
XZLL-IM干货系列 03|消息 ID 设计:一个 UUID 搞不定的事,我用两个 ID 解决了
后端·面试·开源
fliter15 小时前
从 panic 到 Result:用 Rust 重新整理一个 ping 项目的错误处理
后端
森蓝情丶15 小时前
我给 AI 搭了个法庭:一个前端仔的 LangGraph 实战全记录
前端·后端
JensCS猿15 小时前
从 Spring Boot 回看 SSM 框架:手动挡与自动挡的驾驶哲学
后端
爱勇宝15 小时前
干了近 8 年,一夜之间被裁:AI 时代,程序员最该害怕的不是 AI
前端·后端·程序员