R读写parquet文件

什么是parquet文件

Apache Parquet是一个开源的,列存储的数据文件格式。

https://parquet.apache.org/

在R里面,我们可以通过arrow包来读写它。

我们先安装一下arrow包,并加载它。

复制代码
install.packages("arrow")
library(arrow)

读写parquet文件

我们目前没有parquet的文件在本地,先用arrow包里面的write_parquet写一个。

复制代码
write_parquet(
  x,
  sink,
  chunk_size = NULL,
  version = "2.4",
  compression = default_parquet_compression(),
  compression_level = NULL,
  use_dictionary = NULL,
  write_statistics = NULL,
  data_page_size = NULL,
  use_deprecated_int96_timestamps = FALSE,
  coerce_timestamps = NULL,
  allow_truncated_timestamps = FALSE
)

我们写一下cars,然后读取它。

复制代码
 write_parquet(cars, "cars.parquet")
df_from_parquet <- read_parquet("cars.parquet")
相关推荐
对空六课18 小时前
指标口径生效时间的版本查询实现
大数据·服务器·前端·算法·数据分析
我的愿望是成为富婆18 小时前
2027届秋招简历:把SQL与统计知识写成可验证的数据分析能力
数据挖掘·数据分析
对空六课18 小时前
RFM分层边界变化的回溯计算
大数据·服务器·前端·数据库·人工智能·算法·数据分析
SL_staff19 小时前
为什么业务总在等IT跑数?从组织断层看数据可用性落地实践
数据分析·数据可视化·全栈
钱栈up19 小时前
扫完 3.5 万文件后,我发现了 521 组散落的同名文件
爬虫·python·数据分析
派小心.1 天前
A/B实验分层随机种子的稳定性验证
大数据·服务器·前端·数据分析
shujudang1 天前
AI会员运营的数据实践:人群预测、等级策略与效果分析
大数据·人工智能·数据挖掘·数据分析
挖掘狂人1 天前
SQL 注入:一行代码如何撬开整个数据库
后端·sql·数据分析
Data analyse4561 天前
rrweb回放事件资源加载顺序重放校验
前端·人工智能·算法·机器学习·数据分析
运维小文1 天前
apache nifi 2.90部署+运维手册
大数据·运维·数据分析·apache·nifi