UKB数据库/RAP平台批量下载数据教程

使用 Table Exporter方法
第一步:

通过在本地终端(请确保你的机器上安装了dx-toolkit)或ttyd终端,执行以下命令,获取包含你数据集中所有可用数据字段的文件:

复制代码
dx extract_dataset project-xxxx:record-yyyy -ddd --delimiter ","

where project-xxxx:record-yyyy is ID of your Dataset

【安装dx-toolkit】打开本地电脑中的Anaconda Prompt

【安装dx-toolkit】在Anaconda Prompt中输入

复制代码
pip install dxpy

系统会进行自动安装。

假如出现类似以下报错:

复制代码
WARNING: The scripts dx, dx-app-wizard, dx-build-app and dx-build-applet are installed in
'/Users/user-amy/Library/Python/3.9/bin' which is not on PATH.
Consider adding this directory to PATH 

说明需要更新电脑的PATH环境变量配置,以包括pip安装新命令的路径(具体解决方案自行百度)。

【CLI登录】在Anaconda Prompt中输入

复制代码
dx login

服务器连接成功后按提示输入RAP的用户名和密码即可

现在输入:

复制代码
dx extract_dataset project-xxxx:record-yyyy -ddd --delimiter ","

注意!

复制代码
project-xxxx:record-yyyy为你的数据库
例如xxxxx.dataset

完成后有三个文件

上述命令将生成3个*.csv文件,其中*.dataset.data_dictionary.csv文件包含所有可用数据字段的完整信息(字段名称位于称为 的第二列name)。

复制代码
where project-xxxx:record-yyyy is ID of your Dataset

【登出/注销CLI】使用完毕养成好习惯需要登出/注销,在Anaconda Prompt中输入:

复制代码
dx logout

第二步:

接下来使用Table Exporter

收集所有感兴趣的数据字段名称,并写入field_name.txt文件。文件应有1列,每行只有1个数据字段名称。上述文件应仅包含同一实体中的数据字段(例如"参与者"、"olink_instance_0"等)。不同实体中的数据字段应写入独立文件。用于的值可以在.dataset.data_dictionary.csv文件的第一列中找到(注:这与entity_dictionary.csv文件中的不同)

注意这一步:

可以在自己电脑上新建txt,

但是!
需要用Visual Studio Code软件将txt转化为unix格式的txt !!!

也可,自行百度查看其他方法windows的txt转unix的txt.

复制代码
用 VS Code 打开文件

查看右下角状态栏,会显示 "CRLF" 或 "LF"

点击 "CRLF" 或 "LF",选择 "LF"

保存文件

第三步

将field_name.txt文件上传到RAP项目

根据需要,

我用这个

注意:指定实体会快更多!


到这个就批量下载完成!

RAP官网下载教程如下:

复制代码
https://dnanexus.gitbook.io/uk-biobank-rap/working-on-the-research-analysis-platform/accessing-data/accessing-phenotypic-data

https://documentation.dnanexus.com/developer/apps/developing-spark-apps/table-exporter-application

可进行进一步参考!

相关推荐
2501_933670791 小时前
2027 应用统计学秋招选岗指南:统计、SQL、业务指标如何对应岗位
数据库·sql
Alice-YUE2 小时前
向量数据库选型实战:Chroma/Qdrant/Milvus/PgVector 怎么选
数据库·milvus·向量数据库·chroma·rag·qdrant
invicinble2 小时前
python 编程语言 认识维度
开发语言·数据库·python
IT古董2 小时前
《FDE前沿部署工程师实战教程》29 - Enterprise AI Security:Agent安全体系设计
大数据·数据库·人工智能
OpenCSG2 小时前
行业观察 | 在宜昌看具身智能:开源社区被摆到了台前
数据库·开源
喆星时瑜2 小时前
RStudio 数据清洗案例教程
大数据·数据库
明月_清风2 小时前
DuckDB:一个正在改变数据分析方式的数据库
数据库·数据分析·ai编程
CoLiuRs3 小时前
电商价格是怎样算出来的
数据库·redis·缓存
小蒜学长3 小时前
基于Python的动物救助站管理系统的设计与实现(代码+数据库+LW)
数据库·后端·python·django·动物救助
weixin_404551244 小时前
自动化数据库理解:用 AI 与 LLM 自动推断表的用途与关系
数据库·人工智能·自动化