Tomcat的NioEndPoint中ConcurrentLinkedQueue的使用

首先介绍Tomcat的容器结构以及NioEndPoint的作用,以便后面能够更加平滑地切入话题,如图所示是Tomcat的容器结构。

Connector是一个桥梁,它把Server和Engine连接了起来,Connector的作用是接受客户端的请求,然后把请求委托给Engine容器处理。

在Connector的内部具体使用Endpoint进行处理,根据处理方式的不同Endpoint可分为NioEndpoint、JIoEndpoint、AprEndpoint。

首先来看NioEndpoint中的三大组件的关系图。

  • Acceptor是套接字接受线程(Socket acceptor thread),用来接受用户的请求,并把请求封装为事件任务放入Poller的队列,一个Connector里面只有一个Acceptor。
  • Poller是套接字处理线程(Socket poller thread),每个Poller内部都有一个独有的队列,Poller线程则从自己的队列里面获取具体的事件任务,然后将其交给Worker进行处理。
  • Worker是实际处理请求的线程,Worker只是组件名字,真正做事情的是SocketProcessor,它是Poller线程从自己的队列获取任务后的真正任务执行者。

可见,Tomcat使用队列把接受请求与处理请求操作进行解耦,实现异步处理。其实Tomcat中NioEndPoint中的每个Poller里面都维护一个ConcurrentLinkedQueue,用来缓存请求任务,其本身也是一个多生产者-单消费者模型。

生产者------Acceptor线程

Acceptor线程的作用是接受客户端发来的连接请求并将其放入Poller的事件队列。首先看下Acceptor处理请求的简明时序图。

消费者------Poller线程

Poller线程的作用是从事件队列里面获取事件并进行处理。首先我们从时序图来全局了解下Poller线程的处理逻辑。

相关推荐
豆瓣鸡1 分钟前
网关、服务 userId 透传
java·微服务·gateway
bksczm9 分钟前
Linux之信号量(POSIX标准)
java·开发语言
Devin~Y18 分钟前
电商场景下的Java面试实战:从Spring Boot微服务到Kafka、Redis与AI RAG
java·spring boot·redis·elasticsearch·spring cloud·微服务·kafka
吠品20 分钟前
PHP里取月份最后一天的几种方式
java·开发语言·eureka
gugucoding38 分钟前
2. 【Java】搭建Java开发环境
java·开发语言
wang09071 小时前
自己动手写一个spring之MVC_3
java·spring·mvc
闲猫1 小时前
Spring AI / Models / Chat Models / Ollama
java·人工智能·spring
风若飞1 小时前
Tomcat 9.0.118 分布式 Redis Session 配置指南
redis·分布式·tomcat
FREEDOM_X2 小时前
Linux 多线程编程——总结
java·linux·运维·ubuntu
tmlx3I0812 小时前
Tomcat的架构设计和启动过程详解
java·tomcat