实验笔记之——下载数据到服务器

开发过程中经常需要把数据传到服务器上,太麻烦了,为此本博文记录采用百度云来传输数据

百度云

使用bypy包。

  • 安装:pip install bypy
  • 配置bypy连接百度网盘:
  1. 终端输入bypy info
  2. 将命令行提示的链接复制到浏览器,并复制浏览器中的授权码,粘贴到终端并回车(注意是粘贴到终端)

可以看到百度云盘中出现了我的网盘/我的应用数据/bypy文件夹,该文件夹将是服务器与百度云盘间沟通的桥梁。因此,需要将下载的数据放在bypy文件夹中。

常用的命令如下

复制代码
# 查看帮助
bypy --help

# 查看网盘文件
bypy list

# 下载文件或目录
bypy download [remotepath] [localpath]

# 上传文件或目录
bypy upload [localpath] [remotepath]

接下来要上传或者下载的资料都在此

Google Driver

采用wget的方式下载应该也可~

Google Drive的分享链接格式通常为:

复制代码
https://drive.google.com/file/d/<fileid>/view

其中这个<fileid>就是对应文件在服务器上的唯一标识符。

比如我要下载chair的数据集,它的链接是

复制代码
https://drive.google.com/drive/folders/15dS1fw45jvXOiDBqSWCC49w2x5OSyVTi

那么它的id应该是

复制代码
15dS1fw45jvXOiDBqSWCC49w2x5OSyVTi

而wget下载指令是

复制代码
wget --no-check-certificate "https://drive.google.com/uc?export=download&id=${fileid}" -O ${filename}


wget --load-cookies /tmp/cookies.txt "https://drive.google.com/uc?export=download&confirm=$(wget --quiet --save-cookies /tmp/cookies.txt --keep-session-cookies --no-check-certificate 'https://drive.google.com/uc?export=download&id=${fileid}' -O- | sed -rn 's/.confirm=([0-9A-Za-z_]+)./\1\n/p')&id=${fileid}" -O ${filename} && rm -rf /tmp/cookies.txt

下面一条是大文件,对于大文件需要cookie处理。这个数据算小文件,那么应该是

复制代码
wget --no-check-certificate "https://drive.google.com/uc?export=download&id=15dS1fw45jvXOiDBqSWCC49w2x5OSyVTi" -O chair.zip

下载成功了,但是打不开,试试大文件的链接吧~

复制代码
wget --load-cookies /tmp/cookies.txt "https://docs.google.com/uc?export=download&confirm=$(wget --quiet --save-cookies /tmp/cookies.txt --keep-session-cookies --no-check-certificate 'https://docs.google.com/uc?export=download&id=15dS1fw45jvXOiDBqSWCC49w2x5OSyVTi' -O- | sed -rn 's/.*confirm=([0-9A-Za-z_]+).*/\1\n/p')&id=15dS1fw45jvXOiDBqSWCC49w2x5OSyVTi" -O chair.zip&& rm -rf /tmp/cookies.txt

还是下载了加压不了

复制代码
wget --no-check-certificate "https://docs.google.com/uc?export=download&id=15dS1fw45jvXOiDBqSWCC49w2x5OSyVTi" -O chair.zip

改为用gdown

复制代码
pip install gdown


gdown https://drive.google.com/uc?id=文件ID


gdown https://drive.google.com/uc?id=15dS1fw45jvXOiDBqSWCC49w2x5OSyVTi


gdown https://drive.google.com/uc?id=15dS1fw45jvXOiDBqSWCC49w2x5OSyVTi -O 文件名


gdown https://drive.google.com/drive/folders/15dS1fw45jvXOiDBqSWCC49w2x5OSyVTi?usp=drive_link -O chair.zip

但还是不行

找不出原因。。。感觉是分享的文件没有设置好,算了,百度网盘吧。。。

使用wget命令下载Google drive上的文件_ubuntu上wget下载谷歌云盘文件-CSDN博客

通过命令行从 Google Drive下载数据 | Curiousity Hub

相关推荐
滕州市燕猫虎计算机科技工作室个体工商户6 小时前
《Rust程序设计》学习笔记八:结构体
笔记·学习·rust·rust程序设计
志尊宝7 小时前
Vue3 零基础每日笔记(082):文件上传实战——el-upload 校验、自定义上传、头像预览
前端·javascript·vue.js·笔记·#javascript·#vue.js
后季暖8 小时前
电商问数笔记(2)
笔记
xier_ran8 小时前
【infra之路】AI 编译器学习笔记(二):重拾 C++——移动语义与 LLVM 风格的类型转换
人工智能·笔记·学习
星恒随风10 小时前
Linux库的底层原理:ELF文件格式、静态链接、程序加载、虚拟地址空间与GOT/PLT详解
linux·运维·笔记·学习·状态模式
罗西的思考10 小时前
[Agent Memory / 强化学习] MemPO源码学习笔记 — (7)— 混合机制
笔记·学习
ClinicTech11 小时前
婴儿培养箱技术笔记:温控、报警与数据记录的三层架构
笔记
xiaominngtongxue11 小时前
从一次接触网实训课看中职实训教学的组织逻辑
笔记
xier_ran12 小时前
【infra之路】AI 编译器学习笔记(四):PatternRewriter 与贪心 driver
人工智能·笔记·学习
ACP广源盛1392462567313 小时前
硬件选型笔记|国产 PCIe4.0 交换芯片 IX8012@ACP,边缘 AI 设备 IO 扩展方案探讨
人工智能·笔记·硬件架构·pcie·国产芯片