spark广播表大小超过Spark默认的8GB限制

报错:

org.apache.hive.service.cli.HiveSQLException: Error running query: java.util.concurrent.ExecutionException: org.apache.spark.SparkException: Cannot broadcast the table that is larger than 8GB: 10 GB

解决方案

方案1:增加广播阈值

设置参数 SET spark.sql.autoBroadcastJoinThreshold = 10485760;(10G)根据实际情况变更

方案2:禁用广播连接

设置参数 set spark.sql.autoBroadcastJoinThreshold=-1;

相关推荐
飞飞传输9 分钟前
业务系统文件安全检测怎么做?生物医药企业选型与建设指南
大数据·运维·安全
屹立芯创ELEADTECH15 分钟前
先进封装RDL制程中的Build-up Film:关键应用、工艺挑战与发展趋势
大数据·人工智能·microsoft
姜鱼问生18 分钟前
docker exec 排查容器问题:从日志到进程
运维·网络·数据库·docker·容器
starzy199029 分钟前
Flink JobManager启动流程源码深度剖析:从ClusterEntrypoint到JobMaster启动的完整链路
大数据·flink
阿明副业观察35 分钟前
AI视频生成工具功能与作用全面解析:赋能高效内容创作
大数据·人工智能·aigc·音视频·ai写作
2601_9672127242 分钟前
电源轨道系统技术实力评估维度与选型技术框架
大数据·经验分享
数智顾问1 小时前
(171页PPT)XX集团信息安全管理体系优化咨询项目信息安全建设规划报告(附下载方式)
大数据
狗凯之家源码网1 小时前
AI 步数修改提交系统源码应用场景与落地指南
android·数据库·人工智能·运动步数
穆梓兰煊1 小时前
AI供应链安全不再只是包安全,还涉及模型与数据
前端·数据库
北风toto1 小时前
数据库笔记:Armstrong 公理系统与集合论的深度辨析
数据库·笔记