Spring MVC 的异步请求处理是一种机制,允许 Web 应用程序在处理耗时操作(如 I/O 操作、调用外部服务等)时,释放 Servlet 容器的请求处理线程,从而提高服务器的吞吐量和伸缩性。
传统的同步请求处理模型(Thread-Per-Request)中,每个请求都会占用一个 Servlet 容器线程,直到请求处理完成并返回响应。如果某个请求涉及到长时间的等待(例如,等待数据库查询、外部 API 调用),那么这个线程就会被阻塞,无法处理其他新的请求。当并发请求量很大时,线程池可能会耗尽,导致服务器响应缓慢甚至无响应。
异步请求处理通过以下方式解决了这个问题:
- 接收请求:当一个请求到达 DispatcherServlet 时,它像往常一样将请求路由到相应的 Controller 方法。
- 启动异步处理 :如果 Controller 方法被设计为异步的,它会立即返回一个特殊的类型(如
Callable
、DeferredResult
、ResponseBodyEmitter
等),而不是直接返回响应数据或视图名。 - 释放容器线程 :Spring MVC 识别到这个特殊返回类型后,会通知 Servlet 容器(需要 Servlet 3.0+ 支持)该请求将进行异步处理。此时,Servlet 容器会释放当前处理该请求的线程,使其可以返回到线程池去处理其他新的传入请求。HTTP 连接本身保持打开状态。
- 执行耗时操作 :耗时的操作会在一个单独的线程 中执行(通常由 Spring 配置的
TaskExecutor
管理,或者在DeferredResult
的情况下,由应用程序的其他部分触发)。 - 完成处理并发送响应 :当耗时操作完成后,它会设置结果(对于
Callable
是返回值,对于DeferredResult
是通过setResult()
方法)。Spring MVC (或 Servlet 容器) 会检测到异步处理已完成,然后从线程池中获取一个线程(可能是之前释放的那个,也可能是另一个),将结果打包成 HTTP 响应并发送给客户端。
核心组件和返回类型:
-
Callable<V>
:-
最简单的方式。Controller 方法返回一个
Callable<V>
。 -
Spring MVC 会将
Callable
提交给一个TaskExecutor
在单独的线程中执行其call()
方法。 -
call()
方法的返回值将作为响应体(如果使用了@ResponseBody
)或模型数据。 -
示例 :
java@GetMapping("/async-callable") @ResponseBody public Callable<String> processAsyncCallable() { log.info("Controller thread: " + Thread.currentThread().getName()); return () -> { Thread.sleep(2000); // 模拟耗时操作 log.info("Async task thread: " + Thread.currentThread().getName()); return "Callable result"; }; }
-
-
DeferredResult<V>
:-
更灵活的方式。Controller 方法返回一个
DeferredResult<V>
。 -
Controller 立即返回,但结果 (
V
) 将在未来的某个时间点由其他线程 (例如,消息队列监听器、定时任务、外部事件触发等)通过调用DeferredResult.setResult(V)
来设置。 -
提供了超时处理 (
onTimeout
) 和完成处理 (onCompletion
) 的回调。 -
示例 :
javaprivate final Map<String, DeferredResult<String>> deferredResults = new ConcurrentHashMap<>(); @GetMapping("/async-deferred") @ResponseBody public DeferredResult<String> processAsyncDeferred(@RequestParam String requestId) { log.info("Controller thread: " + Thread.currentThread().getName() + " for request: " + requestId); DeferredResult<String> deferredResult = new DeferredResult<>(5000L, "Timeout!"); // 5秒超时 deferredResults.put(requestId, deferredResult); deferredResult.onCompletion(() -> { log.info("DeferredResult completed for " + requestId); deferredResults.remove(requestId); }); deferredResult.onTimeout(() -> { log.info("DeferredResult timed out for " + requestId); deferredResults.remove(requestId); // 确保移除 // deferredResult.setErrorResult("Timeout occurred"); // 可以设置错误结果 }); // 模拟一个外部事件在2秒后设置结果 // 在实际应用中,这可能是由消息队列消费者、另一个服务的回调等触发 new Thread(() -> { try { Thread.sleep(2000); if (deferredResults.containsKey(requestId)) { log.info("Setting result from another thread: " + Thread.currentThread().getName()); deferredResults.get(requestId).setResult("Deferred result for " + requestId); } } catch (InterruptedException e) { Thread.currentThread().interrupt(); if (deferredResults.containsKey(requestId)) { deferredResults.get(requestId).setErrorResult("Interrupted while processing"); } } }).start(); log.info("Servlet thread released for request: " + requestId); return deferredResult; }
-
-
ResponseBodyEmitter
/SseEmitter
/StreamingResponseBody
:- 用于流式传输数据。允许服务器分块地向客户端发送多个数据对象,而不是一次性发送整个响应。
ResponseBodyEmitter
: 通用的流式响应体。SseEmitter
: 专门用于 Server-Sent Events (SSE)。StreamingResponseBody
: 允许直接向OutputStream
写入数据,适合大文件下载等。
如何启用异步支持:
-
Servlet 3.0+ 容器:这是前提条件(如 Tomcat 7+, Jetty 8+)。
-
web.xml
(如果使用) :xml<servlet> <servlet-name>dispatcher</servlet-name> <servlet-class>org.springframework.web.servlet.DispatcherServlet</servlet-class> <async-supported>true</async-supported> <!-- 启用异步支持 --> </servlet> <filter> <filter-name>someFilter</filter-name> <filter-class>com.example.MyFilter</filter-class> <async-supported>true</async-supported> <!-- 过滤器也需要支持异步 --> </filter>
-
JavaConfig (Spring Boot 推荐) :Spring Boot 会自动配置 DispatcherServlet 和常用 Filter 的
async-supported
为true
。 -
TaskExecutor
配置 :Spring MVC 会使用一个AsyncTaskExecutor
来执行Callable
返回的任务。你可以自定义这个执行器:java@Configuration @EnableAsync // 启用Spring的异步方法执行能力,这里主要是为了配置 TaskExecutor public class AsyncConfig implements WebMvcConfigurer { @Override public void configureAsyncSupport(AsyncSupportConfigurer configurer) { ThreadPoolTaskExecutor taskExecutor = new ThreadPoolTaskExecutor(); taskExecutor.setCorePoolSize(5); taskExecutor.setMaxPoolSize(10); taskExecutor.setQueueCapacity(25); taskExecutor.setThreadNamePrefix("mvc-async-"); taskExecutor.initialize(); configurer.setTaskExecutor(taskExecutor); configurer.setDefaultTimeout(30000); // 默认超时时间 } }
优点:
- 提高吞吐量和伸缩性:通过释放容器线程,服务器可以用更少的线程处理更多的并发请求,特别是在有大量慢速 I/O 操作时。
- 改善用户体验:服务器在高负载下仍能保持响应,新请求不会因为线程池耗尽而被阻塞或拒绝。
- 资源高效利用:容器线程不会因为等待 I/O 而空闲,它们可以去处理其他任务。
适用场景:
- 调用外部 Web 服务或 API。
- 执行耗时的数据库查询。
- 与消息队列交互。
- 实现长轮询(Long Polling)或 Comet 式应用(
DeferredResult
非常适合)。 - 流式传输大量数据或 Server-Sent Events (
ResponseBodyEmitter
,SseEmitter
)。
注意事项:
- 复杂性增加:异步编程比同步编程更复杂,需要考虑线程安全、错误处理、上下文传播(如安全上下文)等问题。
- 不是银弹:它不会让慢操作变快,只是让服务器在等待慢操作时能更有效地处理其他请求。客户端仍然需要等待操作完成。
- 线程池管理:需要合理配置用于执行异步任务的线程池,避免成为新的瓶颈。
- 错误处理 :
DeferredResult
提供了onError
回调,Callable
抛出的异常会被 Spring MVC 捕获并处理。
总而言之,Spring MVC 的异步请求处理是一个强大的特性,它通过利用 Servlet 3.0+ 的异步能力,使得应用程序能够更有效地处理 I/O 密集型操作,从而提高整体性能和可伸缩性。