Tomcat的NioEndPoint中ConcurrentLinkedQueue的使用

首先介绍Tomcat的容器结构以及NioEndPoint的作用,以便后面能够更加平滑地切入话题,如图所示是Tomcat的容器结构。

Connector是一个桥梁,它把Server和Engine连接了起来,Connector的作用是接受客户端的请求,然后把请求委托给Engine容器处理。

在Connector的内部具体使用Endpoint进行处理,根据处理方式的不同Endpoint可分为NioEndpoint、JIoEndpoint、AprEndpoint。

首先来看NioEndpoint中的三大组件的关系图。

  • Acceptor是套接字接受线程(Socket acceptor thread),用来接受用户的请求,并把请求封装为事件任务放入Poller的队列,一个Connector里面只有一个Acceptor。
  • Poller是套接字处理线程(Socket poller thread),每个Poller内部都有一个独有的队列,Poller线程则从自己的队列里面获取具体的事件任务,然后将其交给Worker进行处理。
  • Worker是实际处理请求的线程,Worker只是组件名字,真正做事情的是SocketProcessor,它是Poller线程从自己的队列获取任务后的真正任务执行者。

可见,Tomcat使用队列把接受请求与处理请求操作进行解耦,实现异步处理。其实Tomcat中NioEndPoint中的每个Poller里面都维护一个ConcurrentLinkedQueue,用来缓存请求任务,其本身也是一个多生产者-单消费者模型。

生产者------Acceptor线程

Acceptor线程的作用是接受客户端发来的连接请求并将其放入Poller的事件队列。首先看下Acceptor处理请求的简明时序图。

消费者------Poller线程

Poller线程的作用是从事件队列里面获取事件并进行处理。首先我们从时序图来全局了解下Poller线程的处理逻辑。

相关推荐
代码什么用6 小时前
Spring基础使用
java·后端·spring
Su米苏6 小时前
Spring AI 中MCP 与普通 @Tool的区别
java·人工智能·spring
码云数智-园园6 小时前
unique_ptr 还是 shared_ptr?C++ 智能指针选型与内存泄漏实战分析
java·开发语言
老板一杯拿铁6 小时前
Java 异常体系详解:从字节码原理到最佳实践
java
蜗牛互联网7 小时前
Java 17 HttpClient调用文件转写API的超时与失败回退
java·人工智能·后端
禾小西7 小时前
07丨Redis 哨兵机制:主库故障后,如何恢复服务?
java·开发语言·redis
我不是阵雨7 小时前
JDK 21虚拟线程Pinning陷阱:一文拔钉解困
java·开发语言
小卡车5558 小时前
java反射、自定义注解的应用(自定义分页)
java
BLUcoding8 小时前
接口服务公网超时排查记录:SecureRandom 阻塞问题分析与解决
java·linux·springboot·aes·securerandom
yuniko-n9 小时前
【JUC】Lock 和 synchronzied 锁
java