Worker 常用 6 种结构与适用场景

6 种 Worker 通信模式(附 Sync / Async 双版本骨架)

  • Worker ≈"干活的循环"

    内部逻辑千差万别:查库、算指标、推流......

    但绝大多数差异对外是黑盒,"业务怎么干"对调用方并不重要。

  • 真正影响系统架构的是"它怎么被喂活、怎么回结果"

    • 背压?

    • 顺序?

    • 要不要回包?

    • 一条消息给几个人?

    这些都体现在 通信语义 上,而通信语义一旦选错,全局都会出 Bug 。

    所以先把"怎么收/发消息"定死,再去填"干什么活"最稳妥。

  • 6 种模式之分,本质是

    "一个队列 + 若干消费者"对外提供的契约不同:

记住一件事:
模式 =「消息通路 + 并发语义」 。

至于 Async 还是 Sync ,只是把
send()/recv() 换成 await send().await/recv().await 而已,

精髓不会变。

下面每节都包含:

  1. 什么时候选这种模式(Essence)
  2. Async(Tokio)骨架
  3. Sync(纯 std / crossbeam-channel)骨架

① Actor-Handle

Fire-and-Forget,保持顺序

Essence

单消费者,FIFO,不关心返回值;常用于日志、Webhook、顺序写库。

Async -- Tokio

rust 复制代码
use tokio::sync::mpsc;            // 无界 => 永不阻塞
type Tx = mpsc::UnboundedSender<Task>;

pub fn spawn_actor() -> Tx {
    let (tx, mut rx) = mpsc::unbounded_channel();
    tokio::spawn(async move {
        while let Some(t) = rx.recv().await {
            handle(t).await;       // 顺序执行
        }
    });
    tx
}

Sync -- std

rust 复制代码
use std::{sync::mpsc, thread};
type Tx = mpsc::Sender<Task>;

pub fn spawn_actor() -> Tx {
    let (tx, rx) = mpsc::channel();
    thread::spawn(move || {
        for t in rx { handle(t); } // 同样顺序、阻塞版
    });
    tx
}

② Pipe-Stream

流水线 + 背压

Essence

多阶段加工,每阶段都有有界队列;队列满→上游阻塞,实现背压。

Async -- Tokio

rust 复制代码
use tokio::sync::mpsc;

let (tx_a, mut rx_a) = mpsc::channel(1024);      // stage A→B
let (tx_b, mut rx_b) = mpsc::channel(1024);      // stage B→C

tokio::spawn(async move {                        // A
    while let Some(raw) = src.recv().await {
        tx_a.send(parse(raw)).await.unwrap();
    }
});
tokio::spawn(async move {                        // B
    while let Some(mid) = rx_a.recv().await {
        tx_b.send(enrich(mid)).await.unwrap();
    }
});
tokio::spawn(async move {                        // C
    while let Some(fin) = rx_b.recv().await {
        sink(fin).await;
    }
});

Sync -- std

rust 复制代码
use std::{sync::mpsc, thread};

let (tx_a, rx_a) = mpsc::sync_channel(1024);
let (tx_b, rx_b) = mpsc::sync_channel(1024);

thread::spawn(move || for raw in src  { tx_a.send(parse(raw)).unwrap(); });
thread::spawn(move || for mid in rx_a { tx_b.send(enrich(mid)).unwrap(); });
thread::spawn(move || for fin in rx_b { sink(fin); });

③ Call-Reply (RPC Actor)

要回包 / 错误

Essence

请求里夹一个 oneshot(单次返回通道);调用方同步/异步等待结果。

Async -- Tokio

rust 复制代码
use tokio::{sync::{mpsc, oneshot}};

struct Req {
    data: MyReq,
    resp: oneshot::Sender<Result<MyResp, Error>>,
}

let (tx, mut rx) = mpsc::channel::<Req>(128);
tokio::spawn(async move {
    while let Some(req) = rx.recv().await {
        let r = do_work(req.data).await;
        let _ = req.resp.send(r);
    }
});

pub async fn call(tx: &mpsc::Sender<Req>, d: MyReq) -> Result<MyResp, Error> {
    let (tx1, rx1) = oneshot::channel();
    tx.send(Req { data: d, resp: tx1 }).await?;
    rx1.await?
}

Sync -- std

rust 复制代码
use std::sync::mpsc::{channel, Sender};

struct Req {
    data: MyReq,
    resp: Sender<Result<MyResp, Error>>,
}

let (tx, rx) = channel::<Req>();
std::thread::spawn(move || {
    for req in rx {
        let r = do_work(req.data);
        let _ = req.resp.send(r);
    }
});

fn call(tx: &Sender<Req>, d: MyReq) -> Result<MyResp, Error> {
    let (tx1, rx1) = channel();
    tx.send(Req { data: d, resp: tx1 }).unwrap();
    rx1.recv().unwrap()
}

④ Worker-Pool

可并行的独立任务

Essence

多线程/多 task 共享同一有界队列;并行提升吞吐。

Async -- Tokio (spawn_blocking 也类似)

rust 复制代码
use tokio::sync::mpsc;

let (tx, mut rx) = mpsc::channel::<Job>(1000);
for _ in 0..num_cpus::get() {
    let mut rx = rx.clone();
    tokio::spawn(async move {
        while let Some(j) = rx.recv().await {
            cpu_heavy(j).await;
        }
    });
}

Sync -- std

rust 复制代码
use std::{sync::mpsc, thread};

let (tx, rx) = mpsc::sync_channel::<Job>(1000);
for _ in 0..num_cpus::get() {
    let rx = rx.clone();
    thread::spawn(move || for j in rx { cpu_heavy(j) });
}

⑤ Broadcast / Pub-Sub

一条消息多份

Essence

生产者写一次,订阅者各拿一份;适合配置热更新、行情分发。

Async -- Tokio

rust 复制代码
use tokio::sync::broadcast;

let (tx, _) = broadcast::channel::<Event>(16);

let mut sub1 = tx.subscribe();
tokio::spawn(async move { while let Ok(e) = sub1.recv().await { handle1(e).await } });

let mut sub2 = tx.subscribe();
tokio::spawn(async move { while let Ok(e) = sub2.recv().await { handle2(e).await } });

tx.send(Event::Tick)?;

Sync -- crossbeam-channel

rust 复制代码
use crossbeam_channel::unbounded;

let (tx, rx) = unbounded::<Event>();   // `Receiver` 可 `clone`
let sub1 = rx.clone();
let sub2 = rx.clone();

std::thread::spawn(move || for e in sub1 { handle1(e) });
std::thread::spawn(move || for e in sub2 { handle2(e) });

tx.send(Event::Tick).unwrap();

⑥ Cron / Interval

按时间触发

Essence

无输入队列;固定周期触发任务,可带重试/监控。

Async -- Tokio

rust 复制代码
tokio::spawn(async move {
    let mut ticker = tokio::time::interval(std::time::Duration::from_secs(60));
    loop {
        ticker.tick().await;
        if let Err(e) = job().await { log::error!("cron failed: {e}") }
    }
});

Sync -- std

rust 复制代码
std::thread::spawn(move || {
    loop {
        std::thread::sleep(std::time::Duration::from_secs(60));
        if let Err(e) = job() { eprintln!("cron failed: {e}") }
    }
});

怎样选?

  1. 只写、不回、要顺序 → Actor-Handle
  2. 多阶段流水 & 背压 → Pipe-Stream
  3. 要结果 / 错误回传 → Call-Reply
  4. 可并行、CPU 密集 → Worker-Pool
  5. 一条消息多订阅者 → Broadcast
  6. 按时间触发 → Cron

Pomelo_刘金 无论 Async 还是 Sync,都只是换了通道与等待方式 。

理解「队列类型 + 并发语义 + 背压/顺序/返回值」这三要素,

就能在任何运行时下快速拼出正确的 Worker。

相关推荐
代码方舟23 分钟前
零信任架构实战:基于天远学历信息高级版构建自动化智库入驻审查网关
运维·人工智能·架构·自动化
mftang1 小时前
EtherCAT协议:从“飞读飞写”机制到分布式时钟同步的实时以太网架构深度解析
分布式·架构·ethercat·分布式时钟·从站控制器
Dawson Zhu2 小时前
智能体记忆系统:原理解析与工程实践
人工智能·语言模型·架构·aigc·agi
AOI小白新手上路3 小时前
韦东山《ARM 架构与编程》基于I.MX6ULL 3-1 硬件知识_LED 原理图 · 学习笔记
arm开发·学习·架构
诚心呈意共享外卖配送系统4 小时前
共享骑手与聚合配送的区别及系统架构设计:运力池与订单聚合如何落地
架构·系统架构·创业创新
天远API4 小时前
零信任架构实战:基于天远股权穿透构建自动化供应链授信穿透网关
java·人工智能·架构·自动化
Dawson Zhu5 小时前
大语言模型对齐与微调:原理解析与工程实践
人工智能·语言模型·架构·aigc·agi
姜鱼问生6 小时前
uptime-kuma 从 docker run 迁移到 compose:数据卷的坑
安全·架构
weixin_307779136 小时前
从“人操作仪器”到“Agent 自主发现”:OPL 金属材料自驱动实验室 MVP 技术论述
开发语言·人工智能·算法·架构
对讲机数码科普6 小时前
危化厂区防爆专网通信建设实践:从合规框架到验收清单
运维·网络·架构