2026/08/15 spring AI学习总结

一. Tomcat线程如何配置

1. YAML 写法:

  1. java代码实现

1. threads.max: 300 --- 最大工作线程数

Tomcat 用来实际处理请求的线程池上限。每个 HTTP 请求到达后,会被分配一个工作线程来执行你的 Controller 逻辑。

  • 默认值:200
  • 你设为 300,意味着最多同时处理 300 个请求
  • 当 300 个线程全忙时,新请求不会立即被处理,而是进入等待队列

2. threads.min-spare: 20 --- 最小空闲线程数

Tomcat 启动时预先创建的线程数量,也是线程池收缩时保留的最低线程数。

  • 默认值:10
  • 你设为 20,意味着即使没有请求,也会保持 20 个线程待命
  • 好处是突发流量来了不用临时创建线程,减少延迟

类比:饭店即使没客人,也至少留 20 个厨师值班。

3. max-connections: 8192 --- 最大连接数

Tomcat 在任意时刻能同时维持的 TCP 连接数上限(NIO 模式下)。

  • 默认值:8192
  • 注意:连接数 ≠ 并发处理数。一个连接建立了,但可能还没发请求,也可能在等线程处理
  • 当连接数达到 8192 时,新连接会被放入 accept-count 等待队列

类比:饭店里最多坐 8192 桌客人。

4. accept-count: 100 --- 等待队列长度

当 max-connections 满了之后,操作系统层面还能排队等待的连接数。

  • 默认值:100
  • 当连接数 + 等待队列都满了(即 8192 + 100 + 1),新请求会被直接拒绝(连接超时或 Connection Refused)

类比:饭店坐满了,门口还有 100 个小板凳,再多人就只能走了。

5. connection-timeout: 20000 --- 连接超时时间

Tomcat 在接受一个 TCP 连接后,等待客户端发送 HTTP 请求行的最长时间(单位:毫秒)。

  • 默认值:20000ms(20 秒)
  • 如果客户端建立了连接但 20 秒内没发送任何数据,Tomcat 会主动断开这个连接
  • 主要用于防止慢速攻击(Slowloris 等)

二. WebFlux,Streaming,Sentinel使用

1. 常用的类总结

技术 作用
RestTemplate 同步 HTTP 调用
WebClient HTTP 客户端
WebFlux 非阻塞/响应式编程
Mono 0~1 个异步结果
Flux 0~N 个异步结果
SSE 服务端持续向客户端推送数据
Spring AI Streaming 大模型 Token 流式返回

2. 使用WebFlux编程的好处

同步:

线程 ────────────────等待5秒────────────────>

异步:

线程 ──发请求──释放

↓

处理其他请求

↓

响应回来再继续

3. 使用Sentinel的好处

没有保护情况下拖垮服务:

大量请求

↓

大量调用 DeepSeek

↓

大量超时

↓

大量线程/连接占用

↓

你的 Spring Boot

↓

也开始崩

有防护:

请求

↓

Sentinel

↓

判断是否超过阈值

↓

允许 ─────→ DeepSeek

↓

拒绝

↓

Fallback

↓

"AI服务暂时繁忙,请稍后再试"

4. 一张架构图看懂三者交互

第一版图:

用户

│

▼

POST /ai/chat

│

▼

Sentinel

┌──────┴──────┐

│ │

正常 限流/异常

│ │

▼ ▼

WebFlux Fallback

│ │

▼ ▼

Spring AI "AI服务繁忙"

│

▼

DeepSeek

│

Streaming

│

┌──────┴──────┐

▼ ▼

token1 token2 ...

│ │

└──────┬──────┘

▼

SSE/Flux

│

▼

前端

第二版图:

相关推荐
学长毕设17 分钟前
基于SpringBoot的野生动物公益保护平台设计与实现-附源码
java·spring boot·后端
SL_staff1 小时前
离散制造排程破局:JVS-APS 四步闭环落地实践(开发者视角)
java·产品·全栈
这个昵称不容易1 小时前
SpringBoot 美容院管理系统:232个Java文件315个接口,5套角色从预约到发货一整条链路
java·springboot·毕设
装不满的克莱因瓶2 小时前
【SpringAI Alibaba】ReactAgent记忆管理MessageTrimmingHook与MessageDeletionHook
java·人工智能·ai·ai编程·springai·springaialibaba
文丑颜不良啊2 小时前
LeetCode2241~2260题目解析
java·leetcode
文丑颜不良啊2 小时前
LeetCode2321~2340题目解析
java·leetcode
驭渊的小故事3 小时前
Spring AOP 核心概念与通知类型详解
java·后端·spring
vipxieliang3 小时前
ValidX vs 手写验证代码:开发效率对比实测
java·spring boot·后端
vipxieliang3 小时前
虚拟线程与 GraalVM:Spring Boot 3.x 云原生性能跃迁
java·spring boot·后端
Rain的Java大神之路3 小时前
面试官最烦的答案:“我用 Redis + Token”!接口幂等 8 种方案 + 四层防御,把重复扣款工单干到 0
java·后端·面试