spark-sql migration

spark-sql migration

Since Spark 3.2, Parquet files with nanosecond precision for timestamp type (INT64 (TIMESTAMP(NANOS, true))) are not readable. To restore the behavior before Spark 3.2, you can set spark.sql.legacy.parquet.nanosAsLong to true.

https://github.com/apache/spark/blob/fa66d28f0e34342b72706210d685180c084938d9/docs/sql-migration-guide.md?plain=1#L179

相关推荐
计算机安禾5 分钟前
【算法分析与设计】第35篇:后缀数据结构:后缀树与后缀数组的构造
大数据·人工智能·算法·机器学习·剪枝
小旭95275 分钟前
MySQL 主从复制、MyCat 读写分离与分库分表实战
java·数据库·sql·mysql·database
ZC跨境爬虫8 分钟前
SQL学习日志 Day_1:初识SQL,开启数据之旅
数据库·sql·学习
计算机安禾15 分钟前
【算法分析与设计】第37篇:平面扫描与线段交问题
java·大数据·数据库·算法·机器学习
天天爱吃肉821817 分钟前
【汽车研发测试工程师|Python自动化实测全套脚本(CAN解析+数据处理+自动出报告)】
大数据·python·功能测试·嵌入式硬件·汽车
zxfBdd22 分钟前
doris insert into和with as 合用
数据库·sql
Deepoch23 分钟前
Deepoc数学大模型:以低幻觉特性护航半导体精准设计与制造
大数据·人工智能·算法·半导体·deepoc
wanghowie24 分钟前
25. v2 实战:接入 Doris + SQL 三阶段(Planner / Optimizer / Execution)
数据库·sql
云器科技29 分钟前
OpenClaw & 云器Lakehouse:让数据开发进入对话时代
大数据·人工智能
工业互联网专业31 分钟前
基于Spark的共享单车数据存储系统的设计与实现_flask+spider
spark·flask·毕业设计·源码·课程设计·spider·共享单车