go并发模式之----工作池/协程池模式

常见模式之四:工作池/协程池模式

定义

顾名思义,就是有固定数量的工人(协程),去执行批量的任务

使用场景

  • 适用于需要限制并发执行任务数量的情况

  • 创建一个固定大小的 goroutine 池,将任务分发给池中的 goroutine 并等待它们完成,使用带缓冲的通道来接收任务,以避免阻塞主线程

示例

有生产需求,建议使用大佬写的 ants库 ,以下是模拟协程池的简单示例

假设,我们有固定数量(2个)工人执行批量(4个)任务

Go 复制代码
package main

import (
	"fmt"
	"sync"
)

type Task struct {
	TaskFunc func() interface{}
}

type WorkerPool struct {
	Size    int
	Wg      *sync.WaitGroup
	Tasks   chan Task
	Results chan Result
}

type Result struct {
	ID  int
	Res interface{}
}

func NewWorkerPool(workerNum, taskBufSize int) *WorkerPool {
	return &WorkerPool{
		Size:    workerNum,
		Wg:      &sync.WaitGroup{},
		Tasks:   make(chan Task, taskBufSize),
		Results: make(chan Result, taskBufSize),
	}
}

func (w *WorkerPool) AddTask(task Task) {
	w.Tasks <- task
}

func (w *WorkerPool) Run() {
	for i := 1; i <= w.Size; i++ {
		w.Wg.Add(1)
		go func(id int) {
			defer w.Wg.Done()
			w.Work(id, w.Tasks, w.Results)
		}(i)
	}
}

func (w *WorkerPool) Work(Id int, tasks chan Task, results chan Result) {
	for task := range tasks {
		results <- Result{
			ID:  Id,
			Res: task.TaskFunc(),
		}
	}
}

func main() {
	pool := NewWorkerPool(3, 10)
	pool.Run()
	pool.AddTask(Task{TaskFunc: func() interface{} {
		return 2 * 3
	}})
	pool.AddTask(Task{TaskFunc: func() interface{} {
		return 4 * 5
	}})
	pool.AddTask(Task{TaskFunc: func() interface{} {
		return 6 * 7
	}})
	pool.AddTask(Task{TaskFunc: func() interface{} {
		return 8 * 9
	}})
	close(pool.Tasks)
	go func() {
		pool.Wg.Wait()
		close(pool.Results)
	}()
	for v := range pool.Results {
		fmt.Println(v.ID, v.Res)
	}
}
相关推荐
陈逸轩*^_^*几秒前
微服务常见八股(分布式seat, 网关,服务注册与发现、负载均衡、断路器、API 网关、分布式配置中心)
java·微服务
爱笑的眼睛11几秒前
MLflow Tracking API:超越实验记录,构建可复现的机器学习工作流
java·人工智能·python·ai
好学且牛逼的马1 分钟前
Apache Commons DbUtils
java·设计模式·apache
小白学大数据3 分钟前
Python 爬虫如何分析并模拟 JS 动态请求
开发语言·javascript·爬虫·python
秦少游在淮海3 分钟前
网络缓冲区 · 通过读写偏移量维护数据区间的高效“零拷贝” Buffer 设计
linux·开发语言·网络·tcp协议·muduo·网络缓冲区
qs70166 分钟前
c直接调用FFmpeg命令无法执行问题
c语言·开发语言·ffmpeg
zoujiahui_20186 分钟前
python中模型加速训练accelerate包的用法
开发语言·python
码界奇点7 分钟前
基于Golang的分布式综合资产管理系统设计与实现
开发语言·分布式·golang·毕业设计·go语言·源代码管理
满天星83035779 分钟前
【Linux】信号(下)
android·linux·运维·服务器·开发语言·性能优化
榮十一10 分钟前
100道Java面试SQL题及答案
java·sql·面试