C#中多线程异步操作的方法-Parallel.ForEachAsync

1. 核心概念

Parallel.ForEachAsync 是在 .NET 6 中引入的方法。

它的核心作用是:对一组数据执行异步操作,并且同时控制并发数量(也就是同时跑多少个任务)

它完美解决了两个痛点:

  1. 传统的 Parallel.ForEach 不支持 async/await(它是为阻塞式 CPU 任务设计的)。
  2. 直接用 Task.WhenAll(tasks) 会一次性把所有任务扔出去,如果数据有 10 万条,会瞬间耗尽内存或网络端口。

2. 基本语法与关键参数

csharp 复制代码
public static Task ForEachAsync<TSource>(
    this IEnumerable<TSource> source,
    ParallelOptions parallelOptions,
    Func<TSource, CancellationToken, ValueTask> body
)

关键参数说明

  • source:数据源(如数组、List、或你用 Chunk() 切分出的块)。
  • parallelOptions:并行配置项,极其重要,包含两个核心属性:
    • MaxDegreeOfParallelism最大并发数。比如设为 5,表示最多同时运行 5 个异步任务,完成一个再补一个。
    • CancellationToken:取消令牌,用于中途终止所有并发任务。
  • body:要执行的异步逻辑(注意返回类型是 ValueTask,不是 Task,性能更好)。

3. 经典示例

示例 1:批量并发下载网页/API请求(最常见场景)

假设我们要下载 100 个网页,如果串行可能需要 1 分钟,但如果同时开 10 个并发,只需 6 秒。

csharp 复制代码
using System.Net.Http;
List<string> urls = GetUrls(); // 假设有 100 个 URL
using HttpClient client = new HttpClient();
// 配置并行选项:最大并发 10
var options = new ParallelOptions { MaxDegreeOfParallelism = 10 };
Console.WriteLine("开始并发下载...");
await Parallel.ForEachAsync(urls, options, async (url, ct) =>
{
    try
    {
        // 传入 ct,如果外部取消,当前请求会立即中止
        string content = await client.GetStringAsync(url, ct);
        Console.WriteLine($"成功下载 {url},长度: {content.Length}");
    }
    catch (OperationCanceledException)
    {
        // 被取消
    }
    catch (Exception ex)
    {
        Console.WriteLine($"下载失败 {url}: {ex.Message}");
    }
});
Console.WriteLine("全部下载完成。");

示例二:收集结果

ForEachAsync 本身没有返回值(返回 Task),如果需要收集处理结果,必须使用线程安全集合(如 ConcurrentBag 或 ConcurrentQueue)。**

csharp 复制代码
using System.Collections.Concurrent;
using System.Diagnostics;

public static async Task Example_WithResultCollection()
{
    var inputs = Enumerable.Range(1, 10);
    var results = new ConcurrentBag<int>(); // 线程安全集合

    await Parallel.ForEachAsync(inputs, async i =>
    {
        await Task.Delay(100); // 模拟耗时操作
        int result = i * i;    // 计算逻辑
        results.Add(result);   // 并发添加结果(线程安全)
        
        Console.WriteLine($"{DateTime.Now:mm:ss:fff} - 处理 {i}");
    });

    Console.WriteLine($"结果数量: {results.Count}");
}

示例三:配合取消令牌

在用户关闭窗口或点击"停止"按钮时优雅地停止处理。

cs 复制代码
public static async Task Example_WithCancellation(CancellationToken cts)
{
    var range = Enumerable.Range(0, 1000);
    
    try
    {
        await Parallel.ForEachAsync(range, 
            new ParallelOptions { CancellationToken = cts, MaxDegreeOfParallelism = 10 }, 
            async (i, ct) =>
            {
                // 如果外部取消,这里会抛出 OperationCanceledException
                await Task.Delay(100, ct); 
                Console.WriteLine($"处理中: {i}");
            });
    }
    catch (OperationCanceledException)
    {
        Console.WriteLine("任务被用户取消。");
    }
}

4. 核心优势对比表

特性 foreach + await Task.WhenAll Parallel.ForEachAsync
执行方式 串行(一个接一个) 全量并发(同时启动所有) 可控并发(池化执行)
内存/资源占用 极低 极高(容易内存溢出/端口耗尽) 适中(按需启动)
总耗时 最长 最短(如果不崩溃的话) 较短(与并发数成正比)
支持取消 支持 支持 完美支持

5. 注意事项与避坑指南

  1. 必须限制并发数

    不设置 MaxDegreeOfParallelism 时,默认可能会使用处理器数量作为并发度。对于网络请求,建议显式设置为 520 之间(根据目标服务器的承受能力和你的网络带宽决定),防止把对方服务器打挂,或触发对方防爬机制被封 IP。

  2. 线程安全问题(最容易踩的坑)

    在并发环境下,Parallel.ForEachAsync 的内部相当于多线程同时运行。如果你在里面修改了 UI 绑定的集合(如 ObservableCollection)或普通的计数字典,极大概率会报错或数据错乱

    • 集合操作 :使用 ConcurrentDictionaryConcurrentBag,或者用 lock
    • UI 更新 :如果要在里面更新 WPF/WinForms 的 UI,需要使用 Dispatcher.Invoke
  3. 异常处理

    • 如果在循环体内抛出异常(且未 catch 吞掉),Parallel.ForEachAsync 会将异常包装进 AggregateException 抛出。
    • 如果你想让某个任务失败不影响其他任务,就在循环体内部 try-catch 吞掉单次异常。
    • 如果收到 CancellationToken,必须立即停止并抛出 OperationCanceledException
相关推荐
不正经学生3 小时前
C语言预处理详解:编译器真正动手之前的那些事
c语言·开发语言·算法·面试·bug
门思科技4 小时前
LoRaWAN 设备类别:Class A、B、C 对比与选型指南
c语言·开发语言·php
恋恋西风6 小时前
C++ 理解 std::thread 在单核和多核上的行为差异
开发语言·c++
Brilliantwxx6 小时前
【Linux】 进程(9)程序与进程地址空间(基础+进阶+面试题)
linux·运维·服务器·开发语言·c++
BizzZ_7 小时前
C++(22)——类型转换和IO流
开发语言·c++
小范同学_7 小时前
JDK1.7 与 JDK1.8 HashMap 底层原理对比 + 数组并发扩容死循环详解
java·开发语言
geovindu7 小时前
CSharp: 万年历
开发语言·后端·c#·.net
我找到地球的支点啦8 小时前
Matlab系列(009) 一CRC循环冗余校验详解
开发语言·数据结构·算法·matlab·信息与通信
予昊8 小时前
从零实现“在线五子棋对战“:WebSocket 实时通信 + 段位匹配
java·开发语言·网络·websocket
weixin_461408588 小时前
Mybatis-flex小记
java·开发语言·mybatis