Spark:背压机制

 Spark1.5以前版本,用户如果想要限制Receiver的数据接收速率,可以通过设置静态配置参数"spark.streaming.receiver.maxRate"的值来实现,此举虽然可以通过限制接收速率,来适配当前的处理能力,防止内存溢出,但也会引入其他问题,比如:producer数据生产高于maxRate,当前集群处理能力也高于maxRate,这就会造成资源利用率下降等问题。

 为了更好的协调数据接收速率与资源处理能力,1.5版本开始SparkStreaming可以动态控制数据接收速率来适配集群数据处理能力,背压机制(Spark Streaming Backpressure):根据JobScheduler反馈作业的执行信息来动态调整Receiver数据接收率

 通过属性"spark.streaming.backpressure.enabled"来控制是否启用backpressure机制,默认值false,即不启用

相关推荐
互联网江湖5 分钟前
珞石机器人:向左科技股,向右零部件制造商?
大数据·人工智能
CRMEB系统商城11 分钟前
开源自建还是SaaS订阅?算一笔3年经济账
java·大数据·开发语言·开源
Leo.yuan21 分钟前
数据仓库建设怎么做?从源数据到分析报表全流程讲清
大数据·分布式·spark
pftn2 小时前
从0到1搭建具身智能数据飞轮:Ray + Kafka + LanceDB 全链路实战
大数据
Web3_Daisy3 小时前
什么是 Robinhood Chain?
大数据·人工智能·web3·区块链
无忧智库4 小时前
智慧银行反欺诈大数据管控平台建设方案:从规则拦截到图谱智能,重构银行实时风控中枢(PPT)
大数据
湘美书院--湘美谈教育5 小时前
湘美谈教育湘美书院大湘西文学系列:AI时代的武侠小说怎么写
大数据·人工智能·深度学习·机器学习·生活
VortMall5 小时前
『平台去经营化』平台治理能力全新重构|VortMall微服务商城系统v1.3.10
java·大数据·微服务·商城系统·开源商城·vortmall·去经营化
workflower5 小时前
模型中心主义路径
大数据·人工智能·深度学习·机器学习·自动化·制造
Urbano5 小时前
卫衣全工序自动化智造科普:替代工位、设备选型与产能升级方案
大数据·人工智能·自动化