学习Spark遇到的问题

1.【报错】AttributeError: 'SparkContext' object has no attribute 'setcheckpointDir'

本人传参:

python 复制代码
    conf = SparkConf().setAppName("test").setMaster("local[*]")
    sc = SparkContext(conf=conf)
    # 1.告知spark,开启CheckPoint功能
    sc.setcheckpointDir("hdfs://node1:8020/output/ckp")

分析:SparkContext找不到setcheckpointDir方法,参数传参错误

解决:将setcheckpointDir改成setCheckpointDir,其中c字母大写。是因为两个方法的传参不同导致

updateTime:2024-01-23

相关推荐
阿里云大数据AI技术4 小时前
活动报名 | Apache Spark Meetup · 上海站,助力企业构建高效数据平台
spark
T1ssy9 小时前
Spark性能优化:核心技巧与实战指南
大数据·spark
bigdata-rookie11 小时前
Spark 运行架构及相关概念
大数据·架构·spark
beijingliushao11 小时前
101-Spark之Standalone环境安装步骤
大数据·分布式·spark
云 祁11 小时前
Spark SQL 深度优化实战指南:从原理到生产的完整方法论
大数据·数据库·分布式·sql·spark
俊哥大数据1 天前
【项目实战1】大数据项目开发案例---新闻资讯离线分析|实时分析|大数据仓库|推荐系统|数据可视化项目
数据仓库·hadoop·flink·spark·推荐系统·实时分析·离线分析
Q_Q5110082851 天前
python+django/flask+vue基于spark的西南天气数据的分析与应用系统
spring boot·python·spark·django·flask·node.js
写代码的【黑咖啡】1 天前
Hive on Spark:加速大数据分析的新引擎
hive·数据分析·spark
会编程的李较瘦2 天前
【Sparksql学习】SparkSql常用函数(DSL+scala)
学习·spark