(二)高并发压力测试调优篇——caffeine本地缓存调优

前言

在上一节内容中我们主要介绍了高并发请求下,mysql数据库的调优,其调优的主要原理是尽量减少数据库的IO操作,从而提高服务器的访问性能。在此基础上,本节内容是关于如何利用缓存,提高系统的并发访问能力。我们会首先在项目中集成caffeine本地缓存组件,通过jemeter压测工具验证本地缓存对高并发的影响。

正文

  • 添加caffeine和spring cache的pom依赖

    org.springframework.boot spring-boot-starter-cache com.github.ben-manes.caffeine caffeine 3.1.5
  • 在application.yml中配置caffeine缓存

    spring:
    cache:
    type: caffeine
    caffeine:
    spec: initialCapacity=100,maximumSize=500,expireAfterWrite=5m

  • 使用@EnableCaching注解启用缓存
  • 添加一个本地缓存测试用例

    @Cacheable(cacheNames = "user", key = "#p0")
    @Override
    public TpsUserEntity getUserByUsername(String username) {
    LambdaQueryWrapper lambdaQueryWrapper = new LambdaQueryWrapper()
    .eq(TpsUserEntity::getUsername, username);
    return this.getOne(lambdaQueryWrapper);
    }

  • 500用户,并发500的压测结果:吞吐量达到18000/sec

  • 500用户,并发1000的压测结果:吞吐量达到19000/sec
  • 500用户,并发2000的压测结果:吞吐量达到22000/sec

结语

由此可见,通过增加内存级的缓存能够大幅度提高接口的并发访问能力,对于高并发访问的接口,我们可以通过使用本地内存或者redis等内存级的数据库,提升接口的并发访问能力。

相关推荐
名字还没想好☜1 小时前
Java 用 MethodHandle 替代反射:调用性能实测、invokeExact 的坑与缓存
java·开发语言·缓存·反射·methodhandle
acd120091 小时前
Redis 缓存和数据库一致性,到底怎么搞?
数据库·redis·缓存
小当家.1051 小时前
LLM服务缓存与连接池管理:三层缓存架构与ChatClient池化
java·后端·spring·缓存·llm·agent
CodeBlog-star1 小时前
AI Agent 高并发实战:Redis 限流、队列、缓存与高可用全栈方案
数据库·redis·缓存
小当家.1051 小时前
Token成本控制实战:语义缓存、上下文压缩与工具缓存
java·spring·缓存·token·上下文
thesky12345616 小时前
智能体面试准备(二十六):Agent 成本工程——模型路由、缓存、预算控制与大小模型分工
缓存·llmops·智能体·模型路由·成本工程·预算控制·小模型分工
cfm_291419 小时前
高并发系统缓存全解
java·缓存
要开心吖ZSH21 小时前
本地缓存方案选择指南:volatile、ConcurrentHashMap、Caffeine 怎么选?
缓存·caffeine·volatile·本地缓存
范什么特西21 小时前
redis题目面渣重点
数据库·redis·缓存
今天的砖头有点烫手啊21 小时前
接口太慢?Spring Boot 缓存体系 @Cacheable 全链路拆解
spring boot·后端·缓存