【多线程初阶】阻塞队列 & 生产者消费者模型

朝新_2025-06-08 2:03

文章目录

一、阻塞队列

在数据结构学习集合类是我们接触了队列、优先级队列,都是一些很重要的数据结构,尤其是现在搞后端开发,经常会使用分布式系统,微服务框架等等

  • 阻塞队列,是一种更加复杂的队列
  • 也遵守"先进先出"的原则
  • 阻塞队列是一种线程安全的数据结构
  • 阻塞特性:
    1. 队列为空时,尝试出队列,出队列操作就会阻塞,阻塞到其他线程添加元素为止
    1. 队列为满时,尝试入队列,入队列操作就会阻塞,阻塞到其他线程取走元素为止

阻塞队列的一个典型应用场景就是"生产者消费者模型",这是一种非常典型的开发模型

二、生产者消费者模型

(一)概念

  • 生产者消费者模型就是通过一个容器来解决生产者和消费者的强耦合问题
  • 生产者和消费者彼此之间不直接通讯,而是通过阻塞队列来进行通讯,所以生产者生产完数据之后不用等待消费者处理,直接扔给阻塞队列,消费者不找生产者要数据,而是直接从阻塞队列里取

对于上述描述,举个例子,方便理解~~

请出我们的老三位,朝新,朝望,小舟,三个人包饺子

  • 两个包饺子的方案
    1. 三个人,每个人都分别擀一个饺子皮,包一个饺子
  • 这个方案三个线程就会竞争同一个资源 =>擀面杖,造成阻塞等待
    1. 朝新专门负责擀饺子皮,另外两个人负责包饺子
  • 当朝新擀饺子皮,擀得飞起~~,会出现阻塞太多了,消费者来不及消费,造成桌子上没地方放饺子皮了,就阻塞了
  • 诶? 上面第一个方案就是因为阻塞等待才pass的,这里产生阻塞怎么就行呢?

这里我们提到的阻塞是一个"极端情况",生产者消费者之间速度不协调才会出现,一般情况下,都是不会出现阻塞的

(二)生产者消费者的两个重要优势(阻塞队列的运用)

  • 1) 解耦合 : 阻塞队列也能是生产者和消费者之间解耦,降低耦合是为了让后续修改的时候成本低~

    1. 削峰填谷 : 阻塞队列相当于一个缓冲区,平衡了生产者和消费者的处理能力

比如在"秒杀"场景下,服务器同一时刻可能会收到大量的支付请求,如果直接处理这些支付请求,服务器可能扛不住(每个支付请求处理都需要比较复杂的流程),这个时候就可以把这些请求都放到一个阻塞队列中,然后再由消费者线程慢慢的按照自己的节奏来处理每个支付请求,不至于下游服务器直接崩溃

这样做可以有效进行"削峰",防止服务器被突然到来的一波请求直接冲垮

1) 解耦合(不一定是两个线程之间,也可以是两个服务器之间)

当我们在两个服务器之间引入 阻塞队列后

  • 本来是 A 和 B耦合,现在是 A和队列耦合,B和队列耦合
  • 同样是耦合,为什么单单与队列耦合,就是我们所希望的呢?
  • 因为队列的作用基本上是入队列,出队列,功能单一,固定,一般不会涉及到修改,大大降低了耦合,后续修改服务器代码,成本低

2) 削峰填谷


这张图可以理解为服务器收到的请求量的曲线图

  • 一般来说 A这种上游的服务器 ,尤其是 入口的服务器,干的活更简单,单个请求消耗的资源数少

  • 像 B这种下游的服务器 ,同行承担更重的任务量,复杂的计算/存储 工作,单个请求消耗的资源数更多

  • 日常工作中,确实会给 B这样角色的服务器分配更好的机器,即使如此,也很难保证 B 承担的访问量能够比 A更高

  • 服务器会什么会挂呢? 比如每次选课时,选课系统就会卡的进不去

  • 服务器每个请求的时候,都是需要消耗一定的硬件资源

  • 包括不限于 CPU,内存,硬盘,网络带宽的资源

  • 同时有N个请求呢? 消耗的量*N

    • 一旦消耗的总量,超出了机器硬件资源的上限,此时,对应的进程就可能崩溃或者操作系统产生卡顿 =>挂了

  • 提供的量 < 消耗的量 ,就会挂~

当我们在两个服务器之间引入 阻塞队列后

  • 一般来说,请求量激增是突发,时间也会短
  • 趁着峰值过去了,B 仍然继续消费数据,利用波谷的时间,赶紧消费之前积压的数据

(三)生产者消费者模型付出的代价

    1. 引入队列后,整体的结构会更复杂,此时,就需要更多的机器,进行部署,生产环境的结构会更复杂,管理起来更加麻烦
    1. 运用阻塞队列,导致性能降低,效率会有影响

三、标准库中的阻塞队列

在Java标准库中内置了阻塞队列,如果我们需要在一些程序中使用阻塞队列,直接使用标准库中的即可

  • BlockingQueue 是一个接口,真正实现的类是 LinkedBlockingQueue
  • put方法用于阻塞式的入队列,take用于阻塞式出队列
  • BlockingQueue 也有offer ,poll,peek等方法,但是这些方法不带有阻塞特性
java 复制代码 
public class Demo29 {
    public static void main(String[] args) throws InterruptedException{
        BlockingQueue<String> queue = new LinkedBlockingQueue<>(100);
        for (int i = 0; i < 100;i++){
            queue.put("a");
        }
        System.out.println("队列已满");
        queue.put("a");
        System.out.println("再次尝试 put 元素");
    }
}

使用jconsole观察线程状态


  • 其中我们添加了阻塞队列的参数capacity =>最多能容纳多少元素
  • 如果不设置capacity,默认是一个非常大的值
  • 实际开发中,一般建议大家能够设置上要求的最大值
  • 否则,队列可能变得非常大,导致把内存耗尽,产生内存超出范围这样的异常
  • 填满也没事,队列最多21亿个数据,每个元素是一个int(4个字节)
  • 极端情况 80亿个字节 => 8G,打满了消耗 8GB内存
  • 我们电脑都是 16G 32G 倒是能消耗得起
  • 不过会影响效率,最好还是设置capacity
  • 一个JVM进程也不一定能够利用机器所有的内存,是可以在运行JVM的时候通过一定的参数指定JVM最多消耗多少内存
  • 如果实际消耗的内存,超过了JVM运行时候的限制上限,确实会挂~
  • Thousand 千 => K
  • Million 百万 => M
  • Billion 十亿 => G

(一)观察模型的运行效果

java 复制代码 
public class Demo30 {
    // 生产者一个线程  消费者一个线程
    public static void main(String[] args) {
        BlockingQueue<Integer> queue = new LinkedBlockingQueue<>();
        Thread producer = new Thread(() -> {
            int n = 0;
            while (true) {
                try {

                    queue.put(n);
                    //Thread.sleep(1000);
                } catch (InterruptedException e) {
                    throw new RuntimeException(e);
                }
                System.out.println("生产元素 " + n);
                n++;
            }
        }, "producer");
        Thread consumer = new Thread(() -> {
            while(true){
                try {
                    Integer n = queue.take();
                    System.out.println("消费元素 " + n);
                    //Thread.sleep(1000);
                } catch (InterruptedException e) {
                    throw new RuntimeException(e);
                }
            }
        }, "consumer");
        producer.start();
        consumer.start();
    }
}
  • 通过打印的日志信息,可以观察到,两个线程的执行速度旗鼓相当,并没有产生阻塞
  • 这就是开发中的典型情况,虽然模型是会出现阻塞的,但是只要我们协调好生产和消费的速度,两个线程执行速度相差不大,程序就会高效的运行

(二)观察阻塞效果

1) 队列为空的阻塞效果

  • 上述的 producer 和 consumer 两个线程的速度旗鼓相当,很难观察到阻塞
  • 我们添加sleep ,使得两线程速度相差较大,来观察阻塞队列产生的阻塞效果


通过降低producer调用 put() 的速度,阻塞队列中的元素被消耗的速度远远大于生产的速度,进而使阻塞队列对 consumer的take() 产生阻塞效果

2) 队列为满的阻塞效果

  • 降低 consumer的消费速度,观察阻塞队列对producer的阻塞效果
  • 虽然 producer 只执行了1秒,但已经把阻塞队列填满了
  • 因为队列已满,producer的put()方法产生阻塞效果
  • 所以只能consumer消费一个元素,生产者才能生产一个元素

四、模拟实现阻塞队列

我们自己模拟实现一个简单的阻塞队列,并且基于这个阻塞队列实现 生产者消费者模型

1) 实现要点

  • 通过"循环队列"的方式来实现
  • 使用synchronized进行加锁控制
  • put 插入元素时,判定如果队列满了,就进行wait
  • take 取出元素时,判定如果队列为空,就进行wait
  • wait的使用需要注意,建议配合while使用(后面详细介绍)

2) 基于数组实现普通队列

java 复制代码 
class MyBlockingQueue{
    private  String[] data = null;
    
    public MyBlockingQueue(int capacity){
        data = new String[capacity];
    }
}

public class Demo31 {
    public static void main(String[] args) {
        
    }
}

3) 添加所需字段

java 复制代码 
class MyBlockingQueue{
    private  String[] data = null;

    private int head = 0;//队头

    private int tail = 0;//队尾

    private int size = 0;//元素个数

    public MyBlockingQueue(int capacity){
        data = new String[capacity];
    }
}

4) 循环队列逻辑

  • put()元素 放入tail处,take()元素 head处取出
  • put()元素 => tail++
  • take()元素 =>head++
  • 若 head 和 tail > data.length =>两个指针置为0,继续循环
  • 若 head 和 tail 指向同一个元素,要么队空,要么队满
  • 要么 所有线程阻塞在 put,要么所有线程阻塞在take

5) 实现 put()

  • 队满要进入阻塞(如何进入阻塞)
  • put()一次,tail++ size ++
  • tail 走出队列 要置为0
java 复制代码 
 public void put(String elem){
        if(size == data.length){
            //队列满了,进入阻塞
            return;
        }
        data[tail] = elem;
        tail++;
        if(tail >= data.length){
            tail = 0;
        }
        size++;
    }
}

6) 实现take()

  • 队空要进入阻塞(如何进入阻塞)
  • take()一次 head++ size--
  • head走出队列 要置为0
java 复制代码 
public  String take(){
        if(size == 0){
            //队列为空,进入阻塞
            return null;
        }
        String ret = data[head];
        head++;
        if(head == data.length){
            head = 0;
        }
        size--;
        return ret;
    }
}

7) 对 put 和 take 实现阻塞效果

  • 注意:这里的阻塞效果是通过wait实现的,再使用notify将其唤醒,本身这两个方法的使用就需要搭配锁
  • wait由于会先执行解锁,所以必然搭配锁
  • notify在Java中规定必须搭配锁
  • 这里的锁不仅是完成了阻塞功能,也保证了线程安全
  • 多线程调用put() 和 take()的操作并不是原子的,包含了多步写操作,加上synchronized锁也保证了线程安全

8) if的风险 & while的"二次验证"

  • 一个线程在执行take()时,队列为空时,执行wait()方法,进入阻塞,之后只能等待其他线程的put()方法来唤醒
  • 如果此时其他线程执行的不是put(),而是其他线程的interrupt(),要知道interrupt()是可以中断线程的
  • wait被interrupt打断,会抛出异常 throws InterruptedException
  • 注意:如果是try catch是不会抛出异常的,而是将异常捕获了
  • 无论如何,我们现在分析出了如果使用 if 作为 wait的判定条件,此时就存在wait被提前唤醒的风险!!!


标准库中建议:

  • 如果通过特定的条件,使得线程进入等待状态,那么这里的判断条件应该在while循环中,而不是在 if 中
  • if 只判断一次,判断一次成功后执行wait(),但是wait被打破可能不是因为 if 中的条件,而是interrupt()中断的
  • wait()外面嵌套一层while,而不是if,可以避免wait的非法唤醒
  • 不只是Java标准库中,最早在操作系统原生API(Linux的wait,也是官方文档中就建议使用while)

模拟生产者消费者模型


完整代码:

java 复制代码 
class MyBlockingQueue{
    private  String[] data = null;

    private int head = 0;//队头

    private int tail = 0;//队尾

    private int size = 0;//元素个数

    public MyBlockingQueue(int capacity){
        data = new String[capacity];
    }

    public void put(String elem) throws InterruptedException{
        synchronized (this){
            while(size == data.length){
                //队列满了,进入阻塞
                this.wait();
                return;
            }
            data[tail] = elem;
            tail++;
            if(tail >= data.length){
                tail = 0;
            }
            size++;
            this.notify();
        }

    }

    public  String take() throws InterruptedException{
        synchronized (this){
            while(size == 0){
                //队列为空,进入阻塞
                this.wait();
                return null;
            }
            String ret = data[head];
            head++;
            if(head == data.length){
                head = 0;
            }
            size--;
            this.notify();
            return ret;
        }
        }

}



public class Demo31 {
    public static void main(String[] args) {
    MyBlockingQueue queue = new MyBlockingQueue(100);
        Thread producer = new Thread(() -> {
            int  n = 0;
            while (true) {
                try {

                    queue.put(n + "");
                    System.out.println("生产元素 " + n);
                    n++;
                    //Thread.sleep(1000);
                } catch (InterruptedException e) {
                    throw new RuntimeException(e);
                }

            }
        }, "producer");
        Thread consumer = new Thread(() -> {
            while(true){
                try {
                    String n = queue.take();
                    System.out.println("消费元素 " + n);
                    Thread.sleep(1000);
                } catch (InterruptedException e) {
                    throw new RuntimeException(e);
                }
            }
        }, "consumer");
        producer.start();
        consumer.start();
    }
}

运行效果:

相关推荐
Scott9999HH6 小时前
【IIoT流量实战】蒸汽管道阀门全关却仍有流量？用 Python 实现涡街信号 FFT 频谱分析与温压全补偿积算网关，深度拆解靠谱的涡街流量计厂家硬核技术标准
开发语言·python
腻害兔6 小时前
【若依项目-产品经理视角】深度拆解 RuoYi-Vue-Pro 商城模块：从商品管理到交易引擎，50 张表撑起一整套电商系统
java·大数据·vue.js·产品经理·ai编程
码智社7 小时前
AES加密原理详解及Java实现加解密实战
java·开发语言
AI云海7 小时前
python 列表、元组、集合和字典
开发语言·python
萧瑟余晖8 小时前
JDK 26 新特性详解
java·开发语言
马优晨9 小时前
Freemarker 完整讲解（后端 Java 模板引擎）
java·开发语言·freemarker·freemarker 完整讲解·freemarker模板引擎
人邮异步社区11 小时前
怎么把C语言学到精通？
c语言·开发语言
心平气和量大福大11 小时前
C#-WPF-控件-TextBox 数据绑定
开发语言·c#·wpf
ttwuai11 小时前
Cursor 生成 CRUD 后，Go 后台接口别只测 200：JWT、RBAC 和 tenant_id 怎么验
开发语言·后端·golang
维天说12 小时前
CLI-Switch 2026年3月版历史设计：Hook、TTY 隔离与 JSON 状态
java·服务器·json
热门推荐
01GitHub 镜像站点02如何新建文件夹？ 电脑新建文件夹的4种方法032026年7月AI圈大地震：GPT-5.6被政府限制、Claude入驻Slack、Anthropic自研芯片04国内可直接用、免费额度/永久免费的大模型API清单（含 SiliconFlow、火山、阿里、智谱、百度、Kimi、DeepSeek、DMXAPI 等）05AI科技热点日报 | 2026年07月01日06幻兽帕鲁 - 服务器管理员权限与 GM 命令完全指南07AI 编程 IDE 全景解析 2026：Agent 全面接管开发链路08微信历史版本含下载地址（ Windows PC | 安卓 | MAC ）及设置微信不更新09【解构】DeepSeek V4 发布：技术报告深度解读 + 横向对比六大开源模型，我们的判断是……102026 国产 AI 大模型横评：DeepSeek、通义千问、Kimi、文心一言、星火、豆包谁更能打？