spark,读取和写入同一张表问题

读取a表,写入a表

1.写入的是分区表,不报错

2.读取上来之后,创建为临时视图temp,然后先写入a表,再使用temp,就会报错

解决办法:可以先使用temp,再写入a表

3.写入的不是分区表,会报错

解决办法:先把数据收集到Driver,创建临时视图,再写入a表

4.万能解决办法:先把数据收集到Driver,创建临时视图,再写入a表

java 复制代码
Dataset<Row> dataset = spark.sql(get_new_id_Sql());

StructType schema = dataset.schema();

List<Row> rows = dataset.collectAsList();

spark.createDataFrame(rows, schema).createOrReplaceTempView("all_data");
sql 复制代码
insert overwrite table ods.a
select * from all_data

可能的原因:spark是移动数据不如移动计算,所以数据的路径还是a表,如果收集到Driver,路径就不是a表了

相关推荐
咖啡星人k30 分钟前
MonkeyCode 开源协作指南:如何让分布式团队高效使用AI编程
分布式·开源·ai编程·monkeycode
阿坤带你走近大数据36 分钟前
如何保证kafka中的数据一致性
分布式·kafka
凯源智能38 分钟前
高寒地区分布式光伏箱变测控系统落地实战
分布式·箱变测控·光伏箱变测控装置·箱变监控系统
逆境不可逃1 小时前
深入理解 SingleFlight:从单机到分布式的请求合并方案全解析
分布式·wpf
阿坤带你走近大数据1 小时前
Kafka中的分区概念
分布式·kafka
liyi_hz20081 小时前
政府机关行业数字化办公新实践:O2OA(翱途)助力打造一体化协同办公平台
大数据
豆包公子1 小时前
AUTOSAR CP NvM 的三大数据块、三级恢复机制与异步状态机
大数据·车载系统
杭州华望MBSE1 小时前
AI应用园地(1)| AI驱动需求工程升级—条目化、模型化、追溯化的三位一体实践
大数据·人工智能·mbse·sysml·ai助手
2601_955135031 小时前
AI音乐生态客服成本2026分析
大数据·人工智能
TDengine (老段)2 小时前
TDengine 逻辑计划生成 — 从 AST 到关系代数算子树
大数据·数据库·物联网·wpf·时序数据库·tdengine·涛思数据