(二)高并发压力测试调优篇——caffeine本地缓存调优

前言

在上一节内容中我们主要介绍了高并发请求下,mysql数据库的调优,其调优的主要原理是尽量减少数据库的IO操作,从而提高服务器的访问性能。在此基础上,本节内容是关于如何利用缓存,提高系统的并发访问能力。我们会首先在项目中集成caffeine本地缓存组件,通过jemeter压测工具验证本地缓存对高并发的影响。

正文

  • 添加caffeine和spring cache的pom依赖

    org.springframework.boot spring-boot-starter-cache com.github.ben-manes.caffeine caffeine 3.1.5
  • 在application.yml中配置caffeine缓存

    spring:
    cache:
    type: caffeine
    caffeine:
    spec: initialCapacity=100,maximumSize=500,expireAfterWrite=5m

  • 使用@EnableCaching注解启用缓存
  • 添加一个本地缓存测试用例

    @Cacheable(cacheNames = "user", key = "#p0")
    @Override
    public TpsUserEntity getUserByUsername(String username) {
    LambdaQueryWrapper lambdaQueryWrapper = new LambdaQueryWrapper()
    .eq(TpsUserEntity::getUsername, username);
    return this.getOne(lambdaQueryWrapper);
    }

  • 500用户,并发500的压测结果:吞吐量达到18000/sec

  • 500用户,并发1000的压测结果:吞吐量达到19000/sec
  • 500用户,并发2000的压测结果:吞吐量达到22000/sec

结语

由此可见,通过增加内存级的缓存能够大幅度提高接口的并发访问能力,对于高并发访问的接口,我们可以通过使用本地内存或者redis等内存级的数据库,提升接口的并发访问能力。

相关推荐
hweiyu0014 小时前
Redis命令:HMGET
redis·缓存
微软技术分享14 小时前
BinSentry 自研二进制哨兵压力测试+冒烟回归脚本
压力测试
陕西企来客1 天前
豆包检索层 9 月迭代后信源陈旧的核心 —— 缓存策略的可用性优先转向
缓存
三掌柜6661 天前
ArkWeb 手记 07|缓存和离线页怎么做
缓存·harmonyos
wefg12 天前
【Redis】初识 Redis
数据库·redis·缓存
JosieBook2 天前
【数据库】MySQL 实战精通系列 · 第11篇:Redis 缓存与 MySQL 一致性实战
数据库·mysql·缓存
霸道流氓气质2 天前
AI应用成本优化完全指南:Token压缩、语义缓存与模型路由的Java生产级实战
java·人工智能·缓存
涵美女程序猿2 天前
ChatCut online 剪 CDN 回源演练录屏:域名、缓存键与回源点怎样对应
程序人生·缓存·电脑
蔚天灿雨2 天前
Agent 洗冤集录:前缀缓存 —— MCP 排序问题,如何影响模型调用的延迟与成本
人工智能·缓存·agent·harness
yexianglunbai2 天前
Redis 缓存详解:从原理到实战
数据库·redis·缓存