在js中大量接口调用并发批量请求处理器

并发批量请求处理器

✨ 设计目标

该类用于批量异步请求处理,支持:

  • 自定义并发数
  • 请求节拍控制(延时)
  • 失败重试机制
  • 进度回调通知

🔧 构造函数参数

js 复制代码
new BulkRequestHandler({
  dataList,          // 要处理的数据列表
  requestFn,         // 每条数据的处理函数(返回Promise)
  concurrency = 5,   // 并发请求数
  delay = 100,       // 请求间隔时间(ms)
  retry = 3,         // 每条数据最大重试次数
  onProgressUpdate = () => {}  // 进度更新回调函数
})

🔁 核心执行流程

1. start() 启动任务处理

js 复制代码
const workers = Array(this.concurrency).fill(null).map(() => this._worker());
await Promise.all(workers);
return this.results;
  • 启动多个"工人(worker)任务"并行处理数据。

  • 每个 worker 会不断从共享的 this.index 中取任务,直到任务取尽

2. _worker() 单个任务工人执行逻辑

js 复制代码
while (this.index < this.dataList.length) {
  const currentIndex = this.index++;
  const item = this.dataList[currentIndex];

  try {
    const result = await this._requestWithRetry(item, this.retry);
    this.results[currentIndex] = result;
  } catch (err) {
    this.results[currentIndex] = {
      name: item.name,
      address: item.address,
      error: err.message,
      success: false
    };
  }

  this.completed++;
  this.onProgressUpdate(this.completed);
  await new Promise((res) => setTimeout(res, this.delay));
}

流程说明:

  • 从共享索引中取出当前任务项。

  • 调用 _requestWithRetry() 尝试处理该项。

  • 处理完成或失败后记录结果。

  • 更新完成数量,并触发进度回调。

  • 可选的节拍等待,避免请求过快

3. _requestWithRetry() 重试机制处理

js 复制代码
try {
  return await this.requestFn(item);
} catch (err) {
  if (retriesLeft <= 1) throw err;
  await new Promise(res => setTimeout(res, 200 * (this.retry - retriesLeft + 1)));
  return await this._requestWithRetry(item, retriesLeft - 1);
}

说明:

  • 如果请求失败,则根据剩余重试次数,指数退避式延迟后重试。

  • 最多重试 retry 次,失败则抛出错误交由上层处理

小结:执行顺序图

plaintext 复制代码
start()
 ├─ 创建多个 worker 并发执行
 ├─ 每个 worker 循环取任务
 │   ├─ 获取 dataList[index++]
 │   ├─ 尝试执行 requestFn(带重试)
 │   ├─ 记录结果到 results[]
 │   ├─ 调用进度回调
 │   └─ 可选 delay 等待
 └─ 所有 worker 结束后,返回 results

📚 示例代码

全部代码链接

相关推荐
捉鸭子5 小时前
某音a_bogus vmp逆向
爬虫·python·web安全·node.js·js
zhensherlock2 天前
Protocol Launcher 系列:Beorg 高效任务管理的协议支持
前端·javascript·typescript·node.js·自动化·github·js
我命由我123454 天前
JavaScript 开发 - 获取函数名称、获取函数参数数量、获取函数参数名称
开发语言·前端·javascript·css·html·html5·js
爱上好庆祝4 天前
学习js的第四天
前端·css·学习·html·css3·js
zhensherlock6 天前
Protocol Launcher 系列:Tally 快速计数器的深度集成
前端·javascript·typescript·node.js·自动化·github·js
爱上好庆祝6 天前
学习js的第三天
前端·css·人工智能·学习·计算机外设·js
zhensherlock7 天前
Protocol Launcher 系列:Working Copy 文件操作与高级命令详解
javascript·git·typescript·node.js·自动化·github·js
zhensherlock7 天前
Protocol Launcher 系列:Working Copy 提交与同步全攻略
javascript·git·typescript·node.js·自动化·github·js
天若有情6737 天前
【开源推荐】form-validator-cn 轻量级中文表单校验库 | TS 零依赖、极简开箱即用
前端·npm·开源·node·js·表单校验
zhensherlock9 天前
Protocol Launcher 系列:Trello 看板管理的协议自动化
前端·javascript·typescript·node.js·自动化·github·js