Spark:背压机制

 Spark1.5以前版本,用户如果想要限制Receiver的数据接收速率,可以通过设置静态配置参数"spark.streaming.receiver.maxRate"的值来实现,此举虽然可以通过限制接收速率,来适配当前的处理能力,防止内存溢出,但也会引入其他问题,比如:producer数据生产高于maxRate,当前集群处理能力也高于maxRate,这就会造成资源利用率下降等问题。

 为了更好的协调数据接收速率与资源处理能力,1.5版本开始SparkStreaming可以动态控制数据接收速率来适配集群数据处理能力,背压机制(Spark Streaming Backpressure):根据JobScheduler反馈作业的执行信息来动态调整Receiver数据接收率

 通过属性"spark.streaming.backpressure.enabled"来控制是否启用backpressure机制,默认值false,即不启用

相关推荐
HRaitest5 小时前
秋招技术岗招聘提效:三类 AI 招聘方案的技术底层与选型逻辑
大数据·人工智能·求职招聘·ai-native
凯凯姜6 小时前
分布式锁场景问题
分布式
starzy19907 小时前
Kafka源码深度剖析:消息有异常是如何处理的
大数据·kafka
大大大大晴天7 小时前
每天认识一个组件:ClickHouse
大数据
每天一道题9 小时前
CAP、Raft 与多数派:分布式系统如何达成一致?
分布式·后端·微服务
zwjapple9 小时前
skill总结
大数据·elasticsearch·搜索引擎
百年江湖随意沉浮9 小时前
DATA AI · 数据可视化
大数据
SelectDB9 小时前
实时更新排错现场:导入了却查到旧数据,和 FINAL 越加越慢的两条路
大数据·数据库·数据分析
SelectDB10 小时前
拿 Planet 的账单一行行对下来,我总结出三个可自查的校验点
大数据·数据库·数据分析
SelectDB10 小时前
Apache Doris + Vane:让多模态数据进入业务分析
大数据·数据库·数据分析