阿里云oss迁移到AWS S3

这里写自定义目录标题

0.项目背景

公司迁移要求:从阿里云oss到亚马逊s3,数据量大概500G-2T左右。

开启阿里云oss 加速模式,这样能够跨机房和区域加速。

主要采用以下两种方式同步数据,根据每个公司情况自行选择即可。

1.rclone 方式

#s3 挂载

s3fs ad-amazon-ad /ad-amazon-ad -o url=https://s3.us-east-1.amazonaws.com,endpoint=us-east-1,allow_other,uid=1000,gid=1000,mp_umask=007,use_cache=/tmp

s3fs yinta-website /yinta-website -o url=https://s3.us-east-1.amazonaws.com,endpoint=us-east-1,allow_other,uid=1000,gid=1000,mp_umask=007,use_cache=/tmp

s3fs erp-info-test /erp-info-test -o url=https://s3.ap-east-1.amazonaws.com,endpoint=ap-east-1,allow_other,uid=1000,gid=1000,mp_umask=007,use_cache=/tmp

s3fs erp-info /erp-info -o url=https://s3.ap-east-1.amazonaws.com,endpoint=ap-east-1,allow_other,uid=1000,gid=1000,mp_umask=007,use_cache=/tmp

s3fs erp-usinfo /erp-usinfo -o url=https://s3.us-east-1.amazonaws.com,endpoint=us-east-1,allow_other,uid=1000,gid=1000,mp_umask=007,use_cache=/tmp

#rclone 配置信息

aws-s3

type = s3

provider = AWS

access_key_id = xxxxx

secret_access_key = xxxxx

region = ap-east-1

endpoint = s3.ap-east-1.amazonaws.com.cn

location_constraint = ap-east-1

ali-oss

type = s3

provider = Alibaba

access_key_id = xxxx

secret_access_key = xxxxx

endpoint = oss-accelerate.aliyuncs.com

#传输命令

nohup rclone sync -P --transfers 8 --checkers 8 --s3-chunk-size 8M --s3-upload-concurrency 8 --log-file=/tmp/rclone.txt --log-level INFO ali-oss:ad-amazon-ad aws-s3-us:ad-amazon-ad>/tmp/ad-amazon-ad.log &

nohup rclone sync -P --transfers 8 --checkers 8 --s3-chunk-size 8M --s3-upload-concurrency 8 --log-file=/tmp/rclone.txt --log-level INFO ali-oss:yinta-website aws-s3-us:yinta-website>/tmp/yinta-website.log &

nohup rclone sync -P --transfers 8 --checkers 8 --s3-chunk-size 8M --s3-upload-concurrency 8 --log-file=/tmp/rclone.txt --log-level INFO ali-oss:erp-info-test aws-s3:erp-info-test >/tmp/rc-test.log &

nohup rclone sync -P --transfers 32 --checkers 16 --s3-chunk-size 15M --s3-upload-concurrency 16 --log-file=/tmp/rclone.txt --log-level INFO ali-oss:erp-usinfo aws-s3-us:erp-usinfo>/tmp/rc-us.log &

nohup rclone sync -P --transfers 32 --checkers 16 --s3-chunk-size 15M --s3-upload-concurrency 16 --log-file=/tmp/rclone.txt --log-level INFO ali-oss:erp-info aws-s3:erp-info >/tmp/rc.log &

#统计s3桶大小

aws s3 ls --summarize --human-readable --recursive s3://erp-info

s3cmd du s3://erp-info / --human-readable

erp-info-test-us 美国西部(俄勒冈) us-west-2 公开 换成弗吉尼亚地区。

参考:https://www.awstweaker.com/2022/02/16/rclone工具使用手册/

2.rsync方式

#1.挂载oss所需工具: ossfs

echo erp-info:akxxx:skxxxx > /etc/passwd-ossfs

chmod 600 /etc/passwd-ossfs

#挂载oss

ossfs erp-info /erp-info -ourl=oss-cn-hongkong-internal.aliyuncs.com

#2.挂载S3:所需工具s3fs

echo xxxxxx:xxxxxx/ > ~/.passwd-s3fs

chmod 600 ~/.passwd-s3fs

#挂载

s3fs erp-info-test /erp-info-test -o url=https://s3.ap-east-1.amazonaws.com,endpoint=ap-east-1,allow_other,uid=1000,gid=1000,mp_umask=007,use_cache=/tmp

s3fs bi-zyb /bi-zyb -o url=https://s3.ap-east-1.amazonaws.com,endpoint=ap-east-1,allow_other,uid=1000,gid=1000,mp_umask=007,use_cache=/tmp

s3fs yinta-website /yinta-website -o url=https://s3.us-east-1.amazonaws.com,endpoint=us-east-1,allow_other,uid=1000,gid=1000,mp_umask=007,use_cache=/tmp

s3fs ad-amazon-ad /ad-amazon-ad -o url=https://s3.us-east-1.amazonaws.com,endpoint=us-east-1,allow_other,uid=1000,gid=1000,mp_umask=007,use_cache=/tmp

#sync

root@docker-yinta \~\]# nohup rsync -av /erp-info-test/ [email protected]:/erp-info-test/ \>/dev/null 2\>\&1 \& \[1\] 21449 \[root@docker-yinta \~\]# nohup rsync -av /erp-usinfo/ [email protected]:/erp-usinfo/ \>/dev/null 2\>\&1 \& \[2\] 21562 \[root@docker-yinta \~\]# nohup rsync -av /erp-info/ [email protected]:/erp-info/ \>/dev/null 2\>\&1 \& \[3\] 21759 ### 3.注意 oss中带/ 的目录,用rsync ,rclone ,oss等都无法同步其中文件!!

相关推荐
时序数据说10 分钟前
时序数据库IoTDB在航空航天领域的解决方案
大数据·数据库·时序数据库·iotdb
.生产的驴25 分钟前
SpringBoot 封装统一API返回格式对象 标准化开发 请求封装 统一格式处理
java·数据库·spring boot·后端·spring·eclipse·maven
AnsenZhu36 分钟前
2025年Redis分片存储性能优化指南
数据库·redis·性能优化·分片
oydcm1 小时前
MySQL数据库概述
数据库·mysql
oioihoii1 小时前
C++23中if consteval / if not consteval (P1938R3) 详解
java·数据库·c++23
带娃的IT创业者1 小时前
《AI大模型趣味实战》基于RAG向量数据库的知识库AI问答助手设计与实现
数据库·人工智能
husterlichf2 小时前
MYSQL 常用数值函数 和 条件函数 详解
数据库·sql·mysql
我的golang之路果然有问题2 小时前
快速了解redis,个人笔记
数据库·经验分享·redis·笔记·学习·缓存·内存
卡皮巴拉爱吃小蛋糕3 小时前
MySQL的MVCC【学习笔记】
数据库·笔记·mysql
农民也会写代码3 小时前
dedecms织梦arclist标签noflag属性过滤多个参数
开发语言·数据库·sql·php·dedecms