学习Spark遇到的问题

1.【报错】AttributeError: 'SparkContext' object has no attribute 'setcheckpointDir'

本人传参:

python 复制代码
    conf = SparkConf().setAppName("test").setMaster("local[*]")
    sc = SparkContext(conf=conf)
    # 1.告知spark,开启CheckPoint功能
    sc.setcheckpointDir("hdfs://node1:8020/output/ckp")

分析:SparkContext找不到setcheckpointDir方法,参数传参错误

解决:将setcheckpointDir改成setCheckpointDir,其中c字母大写。是因为两个方法的传参不同导致

updateTime:2024-01-23

相关推荐
阿里云大数据AI技术15 小时前
从 Common Crawl 到可训练语料:用 EMR Serverless Daft 构建清洗、模型标注与向量化管线
人工智能·spark
凉凉的知识库16 小时前
一文讲清 Spark 集群队列:YARN 多租户、容量隔离与资源共享
大数据·spark·yarn
markvivv17 小时前
【译】适合在RTX 5090、DGX Spark或类似机器上可运行的最佳新模型是什么?
大数据·人工智能·spark
FYKJ_201018 小时前
django学习成绩预警系统10905
java·javascript·spring boot·python·spark·django·php
逸Y 仙X18 小时前
Spark SQL
java·大数据·sql·spark
starzy199019 小时前
SparkStreaming 之接收数据原理剖析
大数据·spark
用户3610588626121 天前
SparkSQL 之 Hive On Spark 原理分析
大数据·spark
for_ever_love__1 天前
PySpark学习: PySpark数据计算
python·学习·spark
董可伦1 天前
Spark 源码 | Standalone Cluster 模式提交流程(八)
spark·源码
for_ever_love__2 天前
PySpark学习: 数据输出
开发语言·python·学习·spark