R读写parquet文件

什么是parquet文件

Apache Parquet是一个开源的,列存储的数据文件格式。

https://parquet.apache.org/

在R里面,我们可以通过arrow包来读写它。

我们先安装一下arrow包,并加载它。

复制代码
install.packages("arrow")
library(arrow)

读写parquet文件

我们目前没有parquet的文件在本地,先用arrow包里面的write_parquet写一个。

复制代码
write_parquet(
  x,
  sink,
  chunk_size = NULL,
  version = "2.4",
  compression = default_parquet_compression(),
  compression_level = NULL,
  use_dictionary = NULL,
  write_statistics = NULL,
  data_page_size = NULL,
  use_deprecated_int96_timestamps = FALSE,
  coerce_timestamps = NULL,
  allow_truncated_timestamps = FALSE
)

我们写一下cars,然后读取它。

复制代码
 write_parquet(cars, "cars.parquet")
df_from_parquet <- read_parquet("cars.parquet")
相关推荐
Francek Chen36 分钟前
【大数据处理与分析】数据仓库Hive:08 Impala
数据仓库·hive·hadoop·数据分析·impala
数说故事1 小时前
自由获取全网高质量数据,随时随地进行大数据分析
数据挖掘·数据分析
三环上的骑士3 小时前
【交通篇06】面向热点缺车率与调度成本的共享单车调度效能评估:基于博弈交叉SBM-DEA的新型模型实证
数据分析·运筹优化·共享单车·智能交通·效能评估·博弈交叉效率·调度优化
Data-Miner17 小时前
人工智能怎么做数据分析?从准备到出报告的实操指南
人工智能·数据挖掘·数据分析
Data-Miner18 小时前
需要做财务数据分析,有什么好用的工具?从准备到出报告的实操指南
大数据·数据库·数据分析
SL_staff21 小时前
BI落地失败的3个技术断点:从数据接入、自助分析到服务闭环的工程实践
java·数据分析·数据可视化
Aloudata1 天前
语义资产运营指南:如何管理指标、维度、口径、Owner、血缘和使用记录
数据库·人工智能·数据分析·数据资产·dataagent·语义层
体验家1 天前
智能家居AI+BI数据洞察:体验家如何连接设备运行与用户评价
数据分析·智能家居·客户体验管理
KEYSTONE_lucy1 天前
海外仓维修系统架构与成本拆解:家具维修海外仓技术方案与价格对比
数据分析
镜舟科技1 天前
镜舟科技 CTO 陈鹏:从实时分析到统一的数据分析与智能平台
starrocks·数据分析·镜舟科技·data agent·mip·统一数据·业务语义