Windows系统下【Celery任务队列】python使用celery 详解(二)

开发阶段的自动重载

python 复制代码
celery -A celery_tasks worker --loglevel=info -P eventlet --autoreload

--autoreload 仅适用于开发环境,不建议在生产环境中使用,因为它可能会影响性能。

配置任务跟踪启动状态

python 复制代码
app.conf.task_track_started = True

app.conf.task_track_started = True 是 Celery 的一个配置项,用于启用任务执行状态的跟踪。具体来说,它允许 Celery 在任务开始执行 时更新任务状态为 STARTED,而不仅仅是在任务完成(SUCCESS)或失败(FAILURE)时才更新状态。

1.配置任务过期时间

在 Celery 中,任务结果的过期时间由 result_expires 配置项控制。

Celery 的默认配置是 24 小时(86400 秒)

  1. 全局配置

    python 复制代码
    # 设置任务结果保留 1 小时(3600 秒)
    app.conf.result_expires = 3600  # 秒
  2. 2.针对单个任务设置

    使用 @app.task 装饰器的 expires 参数为特定任务单独设置过期时间

    python 复制代码
    # 定义发送消息任务
    @app.task(expires=1800)  # 该任务结果保留 30 分钟
    def send_msg(message):
        print(f"开始发送消息: {message}")
        time.sleep(3)
        print(f"发送消息完成: {message}")
        return message
  3. 永久保留 :设置为 None0 时,结果不会自动过期(需手动清理)。

    python 复制代码
    app.conf.result_expires = None  # 永久保留
  4. 立即过期 :设置为负数(如 -1)时,结果会在任务完成后立即删除。

    python 复制代码
    app.conf.result_expires = -1  # 立即删除

2.获取异步任务的状态与结果

在 Celery 里,AsyncResult 类可用于获取异步任务的状态与结果。

2.1状态检查方法

  • ready():检查任务是否已经完成(无论成功还是失败),返回布尔值。
    • 频繁检查 result.ready() 会增加与结果后端(如 Redis)的通信开销
  • successful():检查任务是否成功完成,返回布尔值。如果任务仍在执行或失败,返回 False
  • failed():检查任务是否执行失败,返回布尔值。
  • status:获取任务的当前状态,常见的状态包括:
    • PENDING:任务等待执行或状态未知。
    • STARTED:任务已开始执行(需要配置 task_track_started=True 才能看到此状态)。
    • SUCCESS:任务成功完成。
    • FAILURE:任务执行失败。
    • REVOKED:任务已被撤销。
    • RETRY:任务因异常正在重试。

2.2结果获取方法

由于任务是异步执行的,可能需要等待一段时间才能完成。可以使用 get() 方法阻塞当前线程,直到任务完成并返回结果,但要注意设置合理的超时时间,避免长时间阻塞。

  • get(timeout=None, propagate=True, interval=0.5)
    等待任务完成并返回结果。
    • timeout:设置超时时间(秒),超过此时间将抛出 TimeoutError
    • propagate:如果为 True(默认值),任务失败时会抛出异常;如果为 False,则返回异常对象。
    • interval:检查任务状态的间隔时间(秒)。
  • result:获取任务的结果。如果任务尚未完成,返回 None(除非使用 get() 方法等待)。

2.3任务控制方法

  • revoke(terminate=False, signal=None, wait=False, timeout=None)
    撤销(取消)任务的执行。
    • terminate:如果为 True,会强制终止正在执行的任务。
    • signal:指定终止任务时使用的信号(如 SIGKILL)。
    • wait:如果为 True,会等待任务被撤销后再返回。
    • timeout:等待撤销操作完成的超时时间。
  • forget():从结果后端中删除任务结果,释放资源。调用此方法后,将无法再获取该任务的结果。

2.4错误信息获取方法

  • traceback:获取任务失败时的详细堆栈跟踪信息。
  • exception:获取任务失败时抛出的异常对象。

2.5任务元数据方法

  • date_done:获取任务完成的时间(datetime 对象)。
  • children:获取由该任务创建的子任务列表。
python 复制代码
import time
from celery.result import AsyncResult
from celery_tasks import send_msg, app

# 调用任务
result = send_msg.delay('hello world')

# 获取任务 ID
task_id = result.id
print(f"Task ID: {task_id}")

# 创建 AsyncResult 对象
async_result = AsyncResult(task_id, app=app)

# 检查任务状态
print(f"Initial status: {async_result.status}")

# 等待任务完成并获取结果(设置超时时间为 10 秒)
try:
    result_value = async_result.get(timeout=10, propagate=False)
    print(f"Task result: {result_value}")

    if async_result.successful():
        print("Task completed successfully.")
    elif async_result.failed():
        print(f"Task failed with exception: {async_result.exception}")
        print(f"Traceback: {async_result.traceback}")
except TimeoutError:
    print("Task timed out.")
    # 撤销任务
    async_result.revoke(terminate=True, signal='SIGKILL')
    print("Task revoked.")

# 检查任务状态
print(f"Initial status: {async_result.status}")

# 检查任务是否被撤销
if async_result.status == 'REVOKED':
    print("Task is revoked.")


# 释放结果资源
async_result.forget()
print("Task result forgotten.")
相关推荐
极小狐6 分钟前
如何从极狐GitLab 容器镜像库中删除容器镜像?
java·linux·开发语言·数据库·python·elasticsearch·gitlab
wen__xvn24 分钟前
每日一题洛谷T534125 合数c++
开发语言·c++
黄雪超36 分钟前
JVM——Java语法糖与Java编译器
java·开发语言·jvm
cliff,36 分钟前
数据提取之BeautifulSoup4快速使用
笔记·python·学习
旷野本野37 分钟前
【JavaWeb+后端常用部件】
java·开发语言
坐吃山猪38 分钟前
Python多环境管理指南
开发语言·python
伊织code42 分钟前
PyTorch API 4 - 分布式通信、分布式张量
pytorch·python·ai·api·-·4·分布式通信、分布式张量
小声读源码1 小时前
【部署】win10的wsl环境下调试dify的api后端服务
vscode·python·docker·uv·dify·remote-ssh·pyenv
大G哥1 小时前
Rust 之 trait 与泛型的奥秘
java·开发语言·jvm·数据结构·rust
刘梓谦1 小时前
Qt获取CPU使用率及内存占用大小
开发语言·c++·qt