关于 Apache Spark 的参数设置,用于优化和调整 Spark 应用程序的行为和性能

关于 Apache Spark 的参数设置,用于优化和调整 Spark 应用程序的行为和性能

下面是每个配置的简要说明:

spark.dynamicAllocation.enabled=true:启用动态资源分配,允许 Spark 根据任务需求自动调整执行器的数量。

spark.shuffle.service.enabled=false:禁用独立的 Shuffle 服务,将 Shuffle 过程合并到 Executor 中。

spark.dynamicAllocation.initialExecutors=10:初始执行器的数量,当动态资源分配启用时使用。

spark.dynamicAllocation.minExecutors=10:执行器的最小数量。

spark.dynamicAllocation.maxExecutors=500:执行器的最大数量。

spark.dynamicAllocation.executorAllocationRatio=0.5:用于执行器分配的比例,表示给每个应用程序分配的资源相对于集群中所有可用资源的比例。

spark.dynamicAllocation.executorIdleTimeout=60s:执行器空闲时自动释放的超时时间。

spark.dynamicAllocation.cachedExecutorIdleTimeout=30min:空闲缓存执行器的超时时间,该执行器可以更快地重新分配给作业。

spark.dynamicAllocation.shuffleTracking.enabled=true:启用作业的 Shuffle 动态分配跟踪。

spark.dynamicAllocation.shuffleTracking.timeout=30min:Shuffle 动态分配跟踪的超时时间。

spark.dynamicAllocation.schedulerBacklogTimeout=1s:作业调度队列中作业等待的超时时间。

spark.dynamicAllocation.sustainedSchedulerBacklogTimeout=1s:作业调度队列中连续等待的时间阈值。

spark.cleaner.periodicGC.interval=5min:垃圾回收的周期间隔。

spark.sql.adaptive.enabled=true:启用自适应查询执行,允许 Spark 在运行时动态调整查询执行计划。

spark.sql.adaptive.forceApply=false:是否强制应用自适应执行。

spark.sql.adaptive.logLevel=info:自适应执行的日志级别。

spark.sql.adaptive.advisoryPartitionSizeInBytes=256m:用于自适应执行的建议分区大小。

spark.sql.adaptive.coalescePartitions.enabled=true:启用自适应分区合并。

spark.sql.adaptive.coalescePartitions.minPartitionNum=1:分区合并的最小分区数。

spark.sql.adaptive.coalescePartitions.initialPartitionNum=8192:分区合并的初始分区数。

spark.sql.adaptive.fetchShuffleBlocksInBatch=true:在批量中获取 Shuffle 块。

spark.sql.adaptive.localShuffleReader.enabled=true:启用本地 Shuffle 读取。

spark.sql.adaptive.skewJoin.enabled=true:启用自适应倾斜连接优化。

spark.sql.adaptive.skewJoin.skewedPartitionFactor=5:用于检测倾斜分区的标准差因子。

spark.sql.adaptive.skewJoin.skewedPartitionThresholdInBytes=400m:倾斜分区的阈值。

spark.sql.adaptive.nonEmptyPartitionRatioForBroadcastJoin=0.2:广播连接时的非空分区比例。

spark.sql.autoBroadcastJoinThreshold=-1:自动广播连接阈值,-1 表示禁用。

这些参数可以根据具体的需求和环境进行调整和定制,以优化 Spark 应用程序的性能和资源利用

相关推荐
白雪讲堂1 小时前
AI搜索品牌曝光资料包(精准适配文心一言/Kimi/DeepSeek等场景)
大数据·人工智能·搜索引擎·ai·文心一言·deepseek
浩浩kids2 小时前
Hadoop•踩过的SHIT
大数据·hadoop·分布式
qr9j422332 小时前
elasticsearch 如果按照日期进行筛选
大数据·elasticsearch·jenkins
DavidSoCool2 小时前
es分页边界数据重复问题处理
大数据·elasticsearch·搜索引擎
路由侠内网穿透3 小时前
本地部署开源流处理框架 Apache Flink 并实现外部访问
大数据·网络协议·tcp/ip·flink·服务发现·apache·consul
松韬3 小时前
Spring + Redisson:从 0 到 1 搭建高可用分布式缓存系统
java·redis·分布式·spring·缓存
雨会停rain3 小时前
如何提高rabbitmq消费效率
分布式·rabbitmq
qq_5470261794 小时前
Elasticsearch 正排索引
大数据·elasticsearch·jenkins
java技术小馆5 小时前
Zookeeper中的Zxid是如何设计的
java·分布式·zookeeper·云原生
宝哥大数据5 小时前
Flinksql--订单宽表
大数据·flink