技术栈
背压
ly7689
5 天前
java
·
spring
·
microsoft
·
webflux
·
project reactor
·
背压
·
响应式流
Spring WebFlux背压机制在生产环境的调优与陷阱
假设你负责一个订单查询服务,基于Spring WebFlux构建。某天订单量暴涨三倍,你惊喜地发现服务没有宕机,但CPU不高、响应变慢,内存却悄悄涨到了危险水位,最终OOM。你检查日志,发现下游数据库连接池早就满了,可WebFlux自身的内存却被大量待处理数据占满。
thesky123456
12 天前
大模型
·
sse
·
长连接
·
背压
·
流式推理
·
首包优化
·
ttft
27届大模型面试准备(七十二):大模型流式推理服务与长连接工程——SSE、背压与首包优化
引言前面几篇把"怎么把请求调度到卡上、怎么把卡喂满"讲透了。本篇聊用户真正感知到的那一端:流式输出(打字机效果)。用户问一个问题,前端要能在 200ms 内看到第一个字,然后稳定地一个 token 一个 token 蹦出来,断网还能续上。这背后是 SSE/WebSocket 长连接、服务端背压、首包(TTFT)优化、断点续传一整套工程。也是华为云大模型 API 岗、对话产品后端岗必问。
想你依然心痛
2 个月前
架构
·
嵌入式
·
响应式编程
·
数据流
·
流处理
·
资源控制
·
背压
固件架构演进:从裸机到RTOS到Linux的决策矩阵——复杂度、实时性、成本三维解析
热爱是明知普通仍不肯将就。 很多人因为觉得自己“普通”就放弃追求热爱的事物——比如普通人不配学画画、普通人不配写诗。但真正的热爱恰恰相反:我知道自己可能不会成名成家,甚至画得笨拙,但我依然愿意认真地做这件事,不糊弄、不妥协。这种“不肯将就”是对自己生命的尊重,也是抵抗虚无的方式。
想你依然心痛
2 个月前
嵌入式
·
响应式编程
·
数据流
·
流处理
·
资源控制
·
背压
响应式编程在嵌入式中的实践——Reactive Streams与背压
春会来,事会顺,人会好,花会开。 不是盲目乐观,而是相信时间、相信自然规律。冬天再长也会过去,困难再大也是阶段性的。与其焦虑,不如做好当下的事,然后等待。就像种花,你无法催促它,只能浇水松土,然后相信。
梦想不只是梦与想
5 个月前
背压
数据流中的背压处理
背压处理(Backpressure Handling)是指在数据流系统中,当生产者产生数据的速度超过消费者处理能力时,通过特定机制控制数据流速率,防止系统资源耗尽(如内存溢出)或性能下降的一种流量控制策略。
Kookoos
1 年前
.net
·
abp vnext
·
akka.net
·
actor model
·
背压
ABP VNext + Akka.NET:高并发处理与分布式计算
用 Actor 模型把高并发写入“分片→串行化”,把锁与竞态压力转回到代码层面的可控顺序处理;依托 Cluster.Sharding 横向扩容,Persistence 宕机可恢复,Streams 保障背压稳定吞吐;全程采用 Akka.Hosting + 显式启动 Sharding 的写法,弱化对版本特定扩展方法的耦合。⚙️
我是有底线的