Django+celery+eventlet+flower+redis异步任务创建及查询实现

1.环境版本:

Django 3.2.12

celery 5.3.4

eventlet 0.33.3

flower 2.0.1

redis 3.5.3

项目名称:new_project

2.celery配置(settings.py)

复制代码
# celery
# django-celery  配置的部分
# Broker配置,使用Redis作为消息中间件
BROKER_URL = 'redis://127.0.0.1:6379/0'

# BACKEND配置,这里使用redis
CELERY_RESULT_BACKEND = 'redis://127.0.0.1:6379/0'

# 结果序列化方案
CELERY_RESULT_SERIALIZER = 'json'

# 任务结果过期时间,秒
CELERY_TASK_RESULT_EXPIRES = 60 * 60 * 24

# 时区配置
CELERY_TIMEZONE = 'Asia/Shanghai'

# # 指定导入的任务模块,可以指定多个
# CELERY_IMPORTS = (
#    'new_project.tasks',
# )

3.celery.py配置(settings.py同目录)

复制代码
import os
import django
from celery import Celery
from django.conf import settings

# 设置系统环境变量,安装django,必须设置,否则在启动celery时会报错
# djangoProject1.settings
os.environ.setdefault('DJANGO_SETTINGS_MODULE', 'new_project.settings')
django.setup()

celery_app = Celery('new_project')
celery_app.config_from_object('django.conf:settings')
celery_app.autodiscover_tasks(lambda: settings.INSTALLED_APPS)

所有官方配置参考:http://docs.celeryproject.org/en/latest/userguide/configuration.html

4.init.py(settings.py同目录)

复制代码
from .celery import celery_app

__all__ = ['celery_app']

5.任务配置(需要异步执行的方法,task.py与settings.py同目录)

说明:示例程序,转换pdf文件为doc,方法必须加上@shared_task装饰器

复制代码
import random
from pdf2docx import Converter
from celery import shared_task

@shared_task
def change_file(file_path):
    docx_name = file_path[:-4] + str(random.randint(100000, 999999)) + '.doc'
    print("file_path: ", file_path)
    print("docx_name: ", docx_name)
    # 加载pdf文档
    cv = Converter(file_path)
    cv.convert(docx_name)
    cv.close()
    print("file success!")
    return 1024

6.启动Django项目

7.启动celery命令:celery -A new_project worker -l debug -P eventlet

8.启动flower命令:celery -A new_project flower,执行后会出现Visit me at http://0.0.0.0:5555,将ip替换为127.0.0.1即可访问

9.任务调用(一般为views.py)

说明:比如页面提交了一份文件,需要后台慢慢去处理的情况,下面在一个方法里面展示了调用任务和查询结果,用sleep模拟等待时间

调用时需要加上.delay方法进行异步处理,使用AsyncResult.get()获取结果,state和get()结果分别是SUCCESS 和1024

复制代码
def file(request):
    file = "E:\\new_project\static\\tc.pdf"
    res = change_file.delay(file)
    print("res", res)

    num = 0
    while num < 30:
        num += 1
        ar = result.AsyncResult(str(res))
        # print("ar", ar)
        if ar.ready():
            print(ar.state, ar.get())
        else:
            print(ar.state)
        sleep(2)
    return render(request, 'file.html')

相关推荐
Q_Q19632884759 小时前
python的电影院座位管理可视化数据分析系统
开发语言·spring boot·python·django·flask·node.js·php
BYSJMG9 小时前
计算机大数据毕业设计推荐:基于Hadoop+Spark的食物口味差异分析可视化系统【源码+文档+调试】
大数据·hadoop·分布式·python·spark·django·课程设计
甄超锋13 小时前
python sqlite3模块
jvm·数据库·python·测试工具·django·sqlite·flask
Q_Q5110082852 天前
python的软件工程与项目管理课程组学习系统
spring boot·python·django·flask·node.js·php·软件工程
wyiyiyi2 天前
【Web后端】Django、flask及其场景——以构建系统原型为例
前端·数据库·后端·python·django·flask
千层冷面4 天前
Flask ORM 查询详解:Model.query vs db.session.query vs db.session.execute
数据库·python·django·flask
王小王-1234 天前
基于Django的福建省旅游数据分析与可视化系统【城市可换】
数据分析·django·旅游·携程·福建省旅游可视化·旅游数据分析系统·景区数据分析
合作小小程序员小小店4 天前
web网站开发,在线%射击比赛成绩管理%系统开发demo,基于html,css,jquery,python,django,model,orm,mysql数据库
python·mysql·django·jquery·html5
Q_Q19632884755 天前
python基于Hadoop的超市数据分析系统
开发语言·hadoop·spring boot·python·django·flask·node.js
Q_Q5110082855 天前
python的滑雪场雪具租赁服务数据可视化分析系统
spring boot·python·信息可视化·django·flask·node.js·php