【go】异步任务解决方案Asynq实战

文章目录

一.Asynq介绍

Asynq 是一个 Go 库,一个高效的分布式任务队列。

Asynq 工作原理:

  • 客户端(生产者)将任务放入队列
  • 服务器(消费者)从队列中拉出任务并为每个任务启动一个工作 goroutine
  • 多个工作人员同时处理任务

git库:https://github.com/hibiken/asynq

二.所需工具

Asynq 使用 Redis 作为消息代理。client 和 server 都需要连接到 Redis 进行写入和读取。

PS:请确保所使用redis >= 5.0

三.代码示例

以记录操作的中间件函数向数据库写数据的情景为例。

  1. 生产者(客户端)函数调用入口:

其中 map 为需向数据库写入的内容

go 复制代码
client.Call("audit:opera", map[string]any{
	"uri":        uri,
	"method":     method,
	"params":     string(paramsByte),
	"headers":    string(headerByte),
	"code":       codeInt,
	"model":      model,
	"action":     action,
	"user_id":    userId,
	"company_id": companyId,
	"user_name":  userName,
	"company":    companyName,
})
  1. 生产者函数
go 复制代码
func Call(t string, payload map[string]any) error {
	// redis连接
	client := asynq.NewClient(asynq.RedisClientOpt{
		Addr:     "127.0.0.1:6379",
		Password: "",
		DB:       1,
	})
	defer client.Close()

	switch t {
	case "audit:opera":
	    // 初始化新任务
		task, err := server.NewOperateSendTask(payload)
		if err != nil {
			return err
		}

       // 任务入队
		_, err = client.Enqueue(task, asynq.Queue("audit"))
		if err != nil {
			log.Err(err).Msg(fmt.Sprintf("task: %v\n", task))
			return err
		}
	}

	return nil
}
go 复制代码
func NewOperateSendTask(data map[string]any) (*asynq.Task, error) {
	payload, err := json.Marshal(data)
	if err != nil {
		return nil, err
	}
	return asynq.NewTask(consts.TypeAuditOpera, payload), nil
}
  1. 消费者函数
go 复制代码
func HandlerAuditOperateTask(ctx context.Context, t *asynq.Task) error {
	var record ent.OperateRecord

	// 队列中取任务
	err := json.Unmarshal(t.Payload(), &record)
	if err != nil {
		log.Err(err).Msg("task.json.Unmarshal")
		return err
	}

	// 真正的数据库操作
	err = dao.OperateRecord.CreateOperateRecord(&record)
	if err != nil {
		log.Err(err).Msg("task.dao.OperateRecord.CreateOperateRecord")
		return err
	}

	return nil
}
  1. asynq初始化(消费者启动入口,项目初始化时自动启动)
go 复制代码
func InitAsynq(ip string, port int, passwd string) {
	addr := fmt.Sprintf("%s:%d", ip, port)
	srv := asynq.NewServer(
		asynq.RedisClientOpt{
			Addr:     "127.0.0.1:6379",
			Password: "",
			DB:       1,
		},
		// 异步队列
		asynq.Config{
			Queues: map[string]int{
				"audit": 3,
			},
		},
	)

	mux := asynq.NewServeMux()
	// 启动消费者
	mux.HandleFunc("audit:opera", server.HandlerAuditOperateTask)
	
	go srv.Run(mux)

}

四.Reference

Go异步任务解决方案之Asynq库详解:
https://www.jb51.net/article/275392.htm

相关推荐
Tony Bai5 小时前
Rust 看了流泪,AI 看了沉默:扒开 Go 泛型最让你抓狂的“残疾”类型推断
开发语言·人工智能·后端·golang·rust
ん贤6 小时前
AI 大模型落地系列|Eino 编排进阶篇:一文讲透编排(Chain 与 Graph)
人工智能·golang·编排·eino
GDAL9 小时前
BoltDB vs SQLite:极简高并发、低配置场景下的终极对比
golang·sqlite·boltdb
ruxingli10 小时前
GoLang的并发如何避免死锁
开发语言·后端·golang
暴躁小师兄数据学院11 小时前
【WEB3.0零基础转行笔记】go编程篇-第12讲:go-zero入门实战
开发语言·笔记·golang·web3·区块链
念何架构之路11 小时前
Go语言表达式的求值顺序
开发语言·后端·golang
低调的JVM16 小时前
Golang下kafka可观测数据采集组件Otelsarama详解
golang·kafka·可观测·opentelemetry
golang学习记1 天前
Go 实时批处理:让数据库少挨点打 [特殊字符]
开发语言·数据库·golang
hutengyi1 天前
go测试问题记录
开发语言·后端·golang
KevinCyao1 天前
Go短信营销接口示例代码:Golang高并发调用营销短信接口的实现方案与代码分享
android·前端·网络·golang·前端框架