Spark:背压机制

 Spark1.5以前版本,用户如果想要限制Receiver的数据接收速率,可以通过设置静态配置参数"spark.streaming.receiver.maxRate"的值来实现,此举虽然可以通过限制接收速率,来适配当前的处理能力,防止内存溢出,但也会引入其他问题,比如:producer数据生产高于maxRate,当前集群处理能力也高于maxRate,这就会造成资源利用率下降等问题。

 为了更好的协调数据接收速率与资源处理能力,1.5版本开始SparkStreaming可以动态控制数据接收速率来适配集群数据处理能力,背压机制(Spark Streaming Backpressure):根据JobScheduler反馈作业的执行信息来动态调整Receiver数据接收率

 通过属性"spark.streaming.backpressure.enabled"来控制是否启用backpressure机制,默认值false,即不启用

相关推荐
SelectDB几秒前
数仓 TCO 怎么算:五项成本拆解框架速查
大数据·数据库·开源
戴西软件1 小时前
制造研发中的AI视觉与仿真:戴西工程图纸智能审图智能体、戴西3DViz_CAE AI集成与戴西3DViz_CAD AI集成
大数据·运维·人工智能·3d·自动化·制造·rpa
SelectDB1 小时前
高并发 BI 看板怎么撑住:隔离与加速配置速查
大数据·数据库·数据分析
Pin_Qing1 小时前
账单没超,请求先被拒了
大数据·开发语言·人工智能
聚城云-GeecityCloud2 小时前
一套物业管理系统多少钱?2026物业软件收费模式与成本明细
大数据·人工智能
成都旺小宝科技2 小时前
首访决策人没来,AI一客一策两天成交!
大数据·人工智能·机器学习·ffmpeg·语音识别
叶总没有会2 小时前
RabbitMQ高级
分布式·rabbitmq
GlobalInfo2 小时前
IT基础设施管理服务专精特新小巨人专项报告:细分市场占有率、企业收入、排名与出口规模
大数据·人工智能
物联网软硬件开发-轨物科技3 小时前
【轨物方案】深度解读开关柜智能感知及一键顺控专家系统
大数据·运维·网络·人工智能·算法·机器人
金融Tech趋势派3 小时前
企业微信SCRM多少钱一年?2026收费模式、报价构成与免费版说明
大数据·企业微信