性能优化利器——预计算(含报表场景实践)

写在前面

很多人觉得工作像是无尽的CRUD,实际上工作场景中包含很多值得思考的可以性能优化的点。针对数据而言,比较常见的性能优化方式有两种,一种是 cache, 一种是预计算。本篇文章会介绍后者。

什么是预计算?

预计算和cache一样,都是在用空间换时间,顾名思义,将计算提前到更早的阶段(比如数据导入阶段),可以减少查询时的耗时与成本。

预计算在报表场景的实践

背景

报表是一个常见的业务场景,为了展示不同纬度的业务数据,我们需要在一个页面中展示不同维度不同展现形式的的报表。从技术角度,前端页面会同时发送多个请求至服务器,并接受服务器返回的结果。

以工单系统为例,我们可能需要查看一定时间内工单相关的数据(比如成功率、发起工单数),以及一定时间内用户相关的数据(比如每日使用次数、新增用户/留存率),假如这些数据存在一张表中,那我们可能会根据请求数据的不同编写不同的sql。

举个例子

然而同一时间的多个sql必然会带来耗时的增加,既然数据存在于一张表中,那是否可以只查询一次拿取所有需要的数据呢?

如图,通过一次性查询结果并根据请求的需要进行初步的计算再返回给浏览器,这样的好处是减少了因SQL查询而导致的网络传输的次数(网络传输向来是查询数据场景中耗时的大头)

不足之处

这里面有一个漏洞,就是多个请求其实是同时发送,那么让多个请求等待一次网络请求的结果本身也是一个耗时点,在第一个请求抢锁并查询数据的时间里,其他的请求其实都是阻塞等待的,而其他的请求不断的轮询本身也会造成CPU资源的挤占,需要根据场景设计等待时间

究其本质

前面说了,预计算和cache一样,都是在用空间换时间

如果我们在数据导入阶段就计算出不同的用户数据,那么虽然多个sql会增加网络传输耗时,但无论是DB还是Server的计算消耗却都没有了

写在最后

两种思路我觉得都有可取之处,有趣的是,究竞哪个思路查询更快并不是一个静止的答案,而是需要综合考虑自己的报表个数,查询数据量级等多个条件。

相关推荐
行者全栈架构师4 小时前
从 55% 到 6%:一个快餐营养规划器的算法迭代实录
后端·算法·架构
余槐i4 小时前
无慢查询 RT 却飙升:cProfile 定位 FastAPI 事件循环阻塞
后端·python·性能优化·fastapi·asyncio
AINative软件工程4 小时前
LLM 应用的 Adaptive Batching 工程实践:动态合批把吞吐提升 3 倍,但延迟的坑你踩过吗
后端·llm·ai编程
parser4 小时前
Python 装饰器:从语法糖、闭包到 @wraps(上篇)
后端
高频因子挖掘机4 小时前
股票池一大就请求缓慢?量化系统批量获取行情的设计与优化
后端·github·api
郑州光合科技余经理4 小时前
本地生活平台搭建:跨业态用户标识怎么贯通
java·开发语言·前端·后端·uni-app·php·ai编程
Thneonl5 小时前
故意弄坏生产:混沌工程不是乱砸,是实验设计
后端·程序员
Thneonl5 小时前
别上来就 strace:60 秒十条命令看清一台病机
后端·程序员
马剑威(威哥爱编程)5 小时前
【AI全栈后端12-11】Spring Boot 把 AI 接口真正上线扛量:限流 / 降级 / 可观测
人工智能·spring boot·后端
tachibana25 小时前
Golang 中数组和切片的区别?
开发语言·后端·golang·数组·切片