用 rclone 把现有 S3/MinIO 数据同步到 RustFS

有套 MinIO 跑了两年,里面是数据库备份和客户交付物。你想在 RustFS 上再做一份异地副本,万一主存储出问题能拉得回来。不想写迁移脚本,也不想引入新组件------rclone 一个二进制就够。

RustFS 是 100% S3 兼容的,rclone 的 S3 后端对着自定义 endpoint 直接用,不用等特殊适配。下面是一份可复制的配置。


1. 配置 rclone 连 RustFS

rclone 对自建 endpoint 默认走 path-style 寻址,配上 RustFS 的地址和凭证即可:

bash 复制代码
rclone config create rustfs s3 \
  provider=Other \
  endpoint=http://rustfs.internal:9000 \
  access_key_id=rustfsadmin \
  secret_access_key=rustfsadmin \
  acl=private

provider=Other 告诉 rclone 这是兼容 S3 的第三方,endpoint 指向 RustFS 的 9000 端口。另一端(你的 MinIO 或源 S3)同样建一个 remote,比如叫 src


2. 先 dry-run,再全量

任何迁移第一步都是干跑,确认两边能通、清单对得上:

bash 复制代码
rclone copy src:my-bucket rustfs:my-bucket --dry-run -P
rclone copy src:my-bucket rustfs:my-bucket -P

copy 是单向、不删目标;想让目标严格等于源(多出的删掉),用 sync------但 sync 会删目标里源没有的对象,生产务必先 --dry-run 看清楚要删什么


3. 不可变备份:叠加对象锁

如果这份副本是用来防勒索、防误删的,打开 RustFS 的对象锁(WORM),再用 rclone 的 --immutable 让备份对象禁止覆盖和删除:

bash 复制代码
rclone copy src:my-bucket rustfs:my-bucket --immutable -P

--immutable 会让 rclone 跳过已存在对象、且要求目标支持不可变,正好和对象锁配合出"写一次、锁一年"的防篡改副本。代价是锁定期内对象占着空间、不能改,适合合规归档而非热数据。


4. 定时增量:cron 一行

全量跑完之后,日常用增量同步保活。rclone 对大桶开 --fast-list 少打 LIST 请求,调 --transfers/--checkers 提并发:

bash 复制代码
0 3 * * * rclone copy src:my-bucket rustfs:my-bucket \
  --fast-list --ignore-existing --log-file /var/log/rclone-backup.log -P

RustFS 的版本控制如果开着,rclone 覆盖同名对象会留历史版本,误删也能回退------但副本侧开了版本控制,存储会随版本涨,记得配生命周期清冷版本。


5. 边界:sync 会删、网络要算

  • sync 是破坏性的 :它让目标等于源,源没有的对象会被删。备份场景宁可用 copy + --ignore-existing,或 sync 前先 --dry-run
  • 网络与凭证 :跨机房同步走公网要算带宽和费用;RustFS 默认账号 rustfsadmin/rustfsadmin 暴露即裸奔,remote 里的密钥生产用专用账号。
  • 大桶调优 :对象上亿时单靠默认参数会慢,--fast-list + 调 --transfers 是必要的,别指望一条命令秒完。

这些都是 rclone + 任意 S3 存储的通用功课,不是 RustFS 的坑。官方文档和 rclone 手册都公开,动手前翻一遍。


6. 总结与下一步

  • RustFS 是 S3 兼容的,rclone 的 S3 后端配 endpoint 直接用,不用特殊适配。
  • 流程:config 建 remote → copy --dry-run 验证 → copy 全量 → --immutable + 对象锁出不可变备份 → cron 增量。
  • 边界:sync 会删目标、跨机房算带宽、大桶要 --fast-list 调并发。

下一步:按第 1 节建 rustfs remote,挑一个非生产桶跑 rclone copy --dry-run 看清单,通了再去掉 --dry-run 全量同步。


以下是深入学习 RustFS 的推荐资源:RustFS

官方文档: RustFS 官方文档- 提供架构、安装指南和 API 参考。

GitHub 仓库: GitHub 仓库 - 获取源代码、提交问题或贡献代码。

社区支持: GitHub Discussions- 与开发者交流经验和解决方案。

意见反馈:GitHub Issues

相关推荐
魔兽大山哥1 小时前
【NL2SQL 实战 05】sqlglot 这把刀:把 SQL 当结构处理,安全校验才不靠碰运气
后端
有来技术1 小时前
youlai-boot 实战:MinIO 停止维护,Docker 迁移 RustFS 完整记录
java·后端·docker
Lyy1 小时前
DevOps平台 — 第七篇:我的项目与表格组件抽取
后端·devops
fthux1 小时前
装修还没开工,AI已经替你把坑踩了一遍
人工智能·ai·开源·github·open source·renopit
唐青枫1 小时前
别只会写 fn:Zig 函数、错误处理、泛型与回调实战
后端
Rain的Java大神之路1 小时前
Docker搭建Redis集群完全指南
java·运维·redis·后端·docker·容器·架构
jj_ccwgw2 小时前
Kafka KRaft 多机集群安装指南
后端
小蒜学长2 小时前
基于Django的社区团购购物平台的设计与实现(代码+数据库+LW)
数据库·后端·python·django
灯澜忆梦2 小时前
【基于GO的Web开发9】gin框架返回json
前端·后端·golang·gin