go 协程池的实现

使用场景

这次需求是做一个临时的数据采集功能,为了将积压的数据快速的消耗完,但是单一的脚本消耗的太慢,于是乎就手写了一个简单的协程池:

  1. 为了能加快数据的收集速度
  2. 为了稳定协程的数量,让脚本变得稳定

设计图如下

协程池中提供了三个方法:

  1. 一个是Addjob用来将任务加入到任务池中
  2. Do 是用来消耗任务池中的任务
  3. HandleErrors 用来获取到错误信息
  4. Stop 是当脚本停止以后,不会立刻停止而是等待所有的人物消耗光在停止

代码如下

该协程池是借用了go扩展库中的semaphore来实现的。

  1. semaphore 信号量是一种同步机制,用于控制对共享资源的访问,常用于限制可以同时访问某一资源或资源池的线程数量。
  2. 我使用的是Acquire函数来实现的,Acquire 当资源访问量达到上限时会被阻塞,直到有协程执行完成,所以我们这里需要对Acquire的上下文设置超时时间,防止我们的任务出现死任务无法退出,从而导致整个协程池堵死。
  3. 我们在任务执行完成后要通过Release来释放资源,防止我们池子越变越小。
go 复制代码
package pool

import (
	"context"
	"sync"
	"time"

	"golang.org/x/sync/semaphore"
)

type GoPool struct {
	MaxNum int
	Jobs   chan func() error
	sem    *semaphore.Weighted
	wg     *sync.WaitGroup
	Errs   chan error
}

func NewGoPool(num int) *GoPool {
	return &GoPool{
		MaxNum: num,
		Jobs:   make(chan func() error, num),
		sem:    semaphore.NewWeighted(int64(num)),
		wg:     &sync.WaitGroup{},
		Errs:   make(chan error, num),
	}
}

func (g *GoPool) Do() {

	go g.gAcquire()
}

func (g *GoPool) AddJob(f func() error) {
	g.Jobs <- f
}

func (g *GoPool) gAcquire() {

	for {
		ctx, cancel := context.WithTimeout(context.Background(), 10*time.Second)
		select {
		case job, ok := <-g.Jobs:
			if !ok {
				cancel()
				return
			}
			g.wg.Add(1)
			if err := g.sem.Acquire(ctx, 1); err != nil {
				// g.Errs <- err
				g.wg.Done()
				cancel() // 确保在退出前取消context
				break
			}
			go func() {
				defer g.sem.Release(1)
				defer g.wg.Done()
				if err := job(); err != nil {
					g.Errs <- err
					return
				}
			}()
		case <-ctx.Done():
			return
		default:
			continue
		}
	}
}

func (g *GoPool) Stop() {
	close(g.Jobs)
	g.wg.Wait()
	close(g.Errs)
}


func (g *GoPool) HandleErrors(handler func(error)) {
	for err := range g.Errs {
		handler(err)
	}
}
相关推荐
_OP_CHEN9 小时前
C++基础:(十二)list类的基础使用
开发语言·数据结构·c++·stl·list类·list核心接口·list底层原理
uzong10 小时前
一次慢接口背后,竟藏着40+种可能!你中过几个
后端·面试·程序员
G探险者11 小时前
滴滴P0级故障背后:互联网公司是如何分级处理线上事故的?
后端
G探险者11 小时前
从 Tomcat 与 Jetty 的对比,聊聊影响一个服务并发能力的关键因素
后端
你的人类朋友11 小时前
“签名”这个概念是非对称加密独有的吗?
前端·后端·安全
ONE_PUNCH_Ge12 小时前
Go 语言变量
开发语言
幼稚园的山代王12 小时前
go语言了解
开发语言·后端·golang
kkjt013012 小时前
{MySQL查询性能优化索引失效的八大场景与深度解决方案}
后端
zhuyasen12 小时前
踩坑实录:Go 1.25.x 编译的 exe 在 Windows 提示“此应用无法运行”
windows·golang
晚风残12 小时前
【C++ Primer】第六章:函数
开发语言·c++·算法·c++ primer