背压

ly76895 天前
java·spring·microsoft·webflux·project reactor·背压·响应式流
Spring WebFlux背压机制在生产环境的调优与陷阱假设你负责一个订单查询服务,基于Spring WebFlux构建。某天订单量暴涨三倍,你惊喜地发现服务没有宕机,但CPU不高、响应变慢,内存却悄悄涨到了危险水位,最终OOM。你检查日志,发现下游数据库连接池早就满了,可WebFlux自身的内存却被大量待处理数据占满。
thesky12345612 天前
大模型·sse·长连接·背压·流式推理·首包优化·ttft
27届大模型面试准备(七十二):大模型流式推理服务与长连接工程——SSE、背压与首包优化引言前面几篇把"怎么把请求调度到卡上、怎么把卡喂满"讲透了。本篇聊用户真正感知到的那一端:流式输出(打字机效果)。用户问一个问题,前端要能在 200ms 内看到第一个字,然后稳定地一个 token 一个 token 蹦出来,断网还能续上。这背后是 SSE/WebSocket 长连接、服务端背压、首包(TTFT)优化、断点续传一整套工程。也是华为云大模型 API 岗、对话产品后端岗必问。
想你依然心痛2 个月前
架构·嵌入式·响应式编程·数据流·流处理·资源控制·背压
固件架构演进:从裸机到RTOS到Linux的决策矩阵——复杂度、实时性、成本三维解析热爱是明知普通仍不肯将就。 很多人因为觉得自己“普通”就放弃追求热爱的事物——比如普通人不配学画画、普通人不配写诗。但真正的热爱恰恰相反:我知道自己可能不会成名成家,甚至画得笨拙,但我依然愿意认真地做这件事,不糊弄、不妥协。这种“不肯将就”是对自己生命的尊重,也是抵抗虚无的方式。
想你依然心痛2 个月前
嵌入式·响应式编程·数据流·流处理·资源控制·背压
响应式编程在嵌入式中的实践——Reactive Streams与背压春会来,事会顺,人会好,花会开。 不是盲目乐观,而是相信时间、相信自然规律。冬天再长也会过去,困难再大也是阶段性的。与其焦虑,不如做好当下的事,然后等待。就像种花,你无法催促它,只能浇水松土,然后相信。
梦想不只是梦与想5 个月前
背压
数据流中的背压处理背压处理‌(Backpressure Handling)是指在数据流系统中,当‌生产者产生数据的速度超过消费者处理能力‌时,通过特定机制控制数据流速率,防止系统资源耗尽(如内存溢出)或性能下降的一种流量控制策略。
Kookoos1 年前
.net·abp vnext·akka.net·actor model·背压
ABP VNext + Akka.NET:高并发处理与分布式计算用 Actor 模型把高并发写入“分片→串行化”,把锁与竞态压力转回到代码层面的可控顺序处理;依托 Cluster.Sharding 横向扩容,Persistence 宕机可恢复,Streams 保障背压稳定吞吐;全程采用 Akka.Hosting + 显式启动 Sharding 的写法,弱化对版本特定扩展方法的耦合。⚙️
我是有底线的