org.apache.spark.SparkException: Kryo serialization failed: Buffer overflow...

Spark异常:Kryo serialization failed: Buffer overflow.

1、问题描述

SparkSQL任务报错如下:

java 复制代码
org.apache.spark.SparkException: Kryo serialization failed: Buffer overflow. Available: 0, required: xxx. To avoid this, increase spark.kryoserializer.buffer.max value.

根据报错信息可知,Spark在Kryo序列化时发生缓存溢出

2、问题解决

根据提示信息,可以适当增加spark.kryoserializer.buffer.max的值,例如256m或512m,该参数的默认值为128m

更多信息参考:https://study.sf.163.com/documents/read/service_support/dsc-p-a-0067

相关推荐
新诺韦尔API14 小时前
手机三要素验证不通过的原因?
大数据·智能手机·api
成长之路51414 小时前
【数据集】分地市全社会用电量统计数据(2004-2022年)
大数据
InfiSight智睿视界14 小时前
门店智能体技术如何破解美容美发连锁的“标准执行困境”
大数据·运维·人工智能
Python_Study202515 小时前
制造业数据采集系统选型指南:从技术挑战到架构实践
大数据·网络·数据结构·人工智能·架构
Cx330❀15 小时前
Git 多人协作全攻略:从入门到高效协同
大数据·elasticsearch·搜索引擎·gitee·github·全文检索·gitcode
Tob管理笔记16 小时前
建筑业如何精准开拓优质客户?技术驱动下的方法论与实践
大数据·云计算·数据库开发
MM_MS16 小时前
Halcon控制语句
java·大数据·前端·数据库·人工智能·算法·视觉检测
JZC_xiaozhong17 小时前
主数据同步失效引发的业务风险与集成架构治理
大数据·架构·数据一致性·mdm·主数据管理·数据孤岛解决方案·数据集成与应用集成
T062051417 小时前
【数据集】全国各地区教育139个相关指标数据集(2000-2024年)
大数据
故乡de云17 小时前
Vertex AI 企业账号体系,Google Cloud 才能完整支撑
大数据·人工智能