python `queue` 模块提供了同步的、线程安全的队列类

在Python中,queue 模块提供了同步的、线程安全的队列类,这使得在多线程环境下共享数据变得简单。下面是一个使用 queue.Queue 的并发编程示例,其中使用了 threading 模块来创建多个线程,这些线程将向队列中添加元素并从队列中取出元素。

python 复制代码
import queue
import threading
import time
import random

# 定义一个工作函数,用于模拟生产者(向队列中添加数据)和消费者(从队列中取出数据)
def worker(q, job_type):
    while True:
        item = random.randint(1, 100)  # 模拟生成数据
        if job_type == 'producer':
            q.put(item)  # 生产者向队列中添加数据
            print(f'{threading.current_thread().name} 生产了 {item}')
            time.sleep(random.random())  # 模拟耗时操作
        elif job_type == 'consumer':
            item = q.get()  # 消费者从队列中取出数据
            q.task_done()  # 表示队列中之前入队的一个任务已经完成
            print(f'{threading.current_thread().name} 消费了 {item}')
            time.sleep(random.random())  # 模拟耗时操作

# 创建一个队列
q = queue.Queue()

# 创建并启动生产者线程
for i in range(2):  # 假设有两个生产者
    t = threading.Thread(target=worker, args=(q, 'producer'), name=f'生产者-{i+1}')
    t.daemon = True  # 设置为守护线程,主线程结束时守护线程也会结束
    t.start()

# 创建并启动消费者线程
for i in range(3):  # 假设有三个消费者
    t = threading.Thread(target=worker, args=(q, 'consumer'), name=f'消费者-{i+1}')
    t.daemon = True  # 设置为守护线程
    t.start()

# 主线程等待所有任务完成(这里假设所有任务都会很快完成,实际情况中可能需要更复杂的同步机制)
q.join()  # 等待队列中的所有项目都被处理

print("所有任务完成。")

注意

  1. 在这个示例中,我使用了 random.randint(1, 100) 来模拟生产的数据,以及 random.random() 来模拟生产者和消费者的耗时操作。

  2. q.put(item) 用于生产者向队列中添加元素,而 q.get() 用于消费者从队列中取出元素。q.task_done() 表示队列中之前入队的一个任务已经完成,每当消费者线程完成一个元素的消费后,就应当调用这个方法。

  3. 使用了 threading.Thread 来创建线程,并设置了 daemon 属性为 True,这意味着这些线程是守护线程,当主线程结束时,它们也会自动结束。

  4. 使用了 q.join() 方法来等待队列中的所有元素都被处理。但是,需要注意的是,在这个示例中,由于生产者线程是无限循环的(没有明确的退出条件),所以实际上 q.join() 可能永远不会返回,除非在外部有某种机制来停止生产者线程(例如,通过共享变量或使用 threading.Event)。在实际应用中,你可能需要设计更复杂的逻辑来确保生产者线程在适当的时候停止。

  5. 为了简化示例,这里没有包含优雅地关闭线程或队列的代码。在实际应用中,你可能需要实现某种形式的信号机制来通知线程何时停止工作。

相关推荐
shykevin3 小时前
python开发Streamable HTTP MCP应用
开发语言·网络·python·网络协议·http
漫路在线3 小时前
JS逆向-某易云音乐下载器
开发语言·javascript·爬虫·python
成功人chen某6 小时前
配置VScodePython环境Python was not found;
开发语言·python
2301_786964366 小时前
EXCEL Python 实现绘制柱状线型组合图和树状图(包含数据透视表)
python·microsoft·excel
skd89997 小时前
小蜗牛拨号助手用户使用手册
python
「QT(C++)开发工程师」7 小时前
STM32 | FreeRTOS 递归信号量
python·stm32·嵌入式硬件
运维成长记7 小时前
mysql数据库-中间件MyCat
数据库·mysql·中间件
史迪仔01127 小时前
[python] Python单例模式:__new__与线程安全解析
开发语言·python·单例模式
低代码布道师7 小时前
第五部分:第五节 - Express 路由与中间件进阶:厨房的分工与异常处理
中间件·express
胡耀超7 小时前
18.自动化生成知识图谱的多维度质量评估方法论
人工智能·python·自动化·知识图谱·数据科学·逻辑学·质量评估