学习Spark遇到的问题

1.【报错】AttributeError: 'SparkContext' object has no attribute 'setcheckpointDir'

本人传参:

python 复制代码
    conf = SparkConf().setAppName("test").setMaster("local[*]")
    sc = SparkContext(conf=conf)
    # 1.告知spark,开启CheckPoint功能
    sc.setcheckpointDir("hdfs://node1:8020/output/ckp")

分析:SparkContext找不到setcheckpointDir方法,参数传参错误

解决:将setcheckpointDir改成setCheckpointDir,其中c字母大写。是因为两个方法的传参不同导致

updateTime:2024-01-23

相关推荐
talen_hx29611 小时前
《零基础入门Spark》学习笔记 Day 11
笔记·学习·spark
howard200515 小时前
2.2.2.2 使用Spark单机版环境
spark·单机版环境
howard200519 小时前
2.2.2.3 Spark实战:词频统计
spark·pyspark·词频统计·spark-shell
howard200520 小时前
2.2.2.1 搭建Spark单机版环境
spark·单机版环境
howard200521 小时前
2.1 初识Spark
spark·组件·特点·应用场景
D愿你归来仍是少年1 天前
Apache Spark 解第 8 章附加篇:Structured Streaming 底层机制深度剖析
大数据·spark
talen_hx2961 天前
《零基础入门Spark》学习笔记 Day 10
大数据·hive·笔记·学习·spark
二进制_博客1 天前
Spark On Hive 系统整合
大数据·hive·spark
D愿你归来仍是少年1 天前
Apache Spark 第 13 章:Real-Time Mode 实时计算
大数据·spark·apache
D愿你归来仍是少年1 天前
Apache Spark 第 13 章 附加篇 · Apache Spark Real-Time Mode 实时计算
大数据·spark·apache