s3

分布式存储与RustFS2 天前
云原生·开源·对象存储·分布式存储·s3·rustfs·性能基准
RustFS 原生支持 S3 Tables:对象存储怎么变成 AI 原生存储一套 AI 训练管线里,原始图片、视频、文本扔在对象存储,训练样本的特征表、标签、检查点元数据却躺在数仓或单独的湖仓里。两套房系统,数据要在之间来回搬,搬一次就多吃一遍网络带宽、多一截延迟。2024 年 AWS 推出 S3 Tables,把 Apache Iceberg 这种表格式直接塞进对象存储核心;2026 年 6 月 15 日,RustFS 官方博客宣布原生支持 S3 Tables 已接近完成。这条线值得认真看——它把"对象存储"和"AI 原生存储"之间的墙打通了。
分布式存储与RustFS2 天前
对象存储·s3·rustfs
用 rclone 把现有 S3/MinIO 数据同步到 RustFS有套 MinIO 跑了两年,里面是数据库备份和客户交付物。你想在 RustFS 上再做一份异地副本,万一主存储出问题能拉得回来。不想写迁移脚本,也不想引入新组件——rclone 一个二进制就够。
分布式存储与RustFS4 天前
云原生·开源·对象存储·分布式存储·s3·rustfs·性能基准
在自己的机器上复现 RustFS 性能基准:warp 压测实操2026-07-17 RustFS 发了 1.0.0-beta.10,官方 warp 压测里 PUT 在 4MiB 对象上跑出 2.85× 于 MinIO。我看到这种数字第一反应是:我的机器能复现吗?还是只在 Azure 那套 4 节点 × 4 盘、32000 IOPS 的 NVMe 配置上才成立?这篇就讲怎么在你自己机器上把这套基准跑出来,以及哪些数字你能信、哪些得打折。
分布式存储与RustFS5 天前
云原生·开源·对象存储·分布式存储·s3·rustfs·性能基准
把 12TB 生产数据从 MinIO 迁到 RustFS:一次真实迁移的实测有一支团队在 2026 年 3 月把一个跑了多年的生产对象存储从 MinIO 迁到了 RustFS,数据量 12.4TB、4700 万个对象,单周末切完。他们公开了迁移前后在同一套硬件上的实测数字。我把它拆开看,不是想证明谁赢,而是想弄明白:对一个已经在用 MinIO 的团队,换成 RustFS 到底改了什么、收益落在哪、代价又是什么。结论先放这——写路径和运维开销的改善是真金白银,协议层面几乎零改动。
分布式存储与RustFS6 天前
对象存储·s3·rustfs
给 RustFS 加第二个池:volumes 省略号语法与多池扩容路线1. 问题背景:容量不够了,加盘还是加池2. volumes 语法基础:位置参数与省略号3. 单节点多盘与省略号展开
分布式存储与RustFS7 天前
云原生·开源·对象存储·分布式存储·s3·rustfs·性能基准
RustFS 监控实战:OpenTelemetry Collector 把指标接入 Prometheus + Grafana集群里 RustFS 跑了三节点,某天业务反馈写入变慢,你上去想看吞吐和在线节点数,却发现 :9000/metrics 抓不到任何 Prometheus 数据。不是没监控能力,是 RustFS 的指标走的是另一条路:OpenTelemetry,不是 Prometheus 拉。
分布式存储与RustFS9 天前
云原生·开源·对象存储·分布式存储·s3·rustfs·性能基准
从 MinIO 到 RustFS:不只是换语言,更是换一份协议自由一次选型评审,技术方案都过了,卡在法务:产品要通过网络对外提供基于 MinIO 的能力,而 MinIO 是 AGPL v3,按条款"网络服务即分发",得把整个服务的源码开源。团队不想为用一个存储组件把核心业务敞开,于是开始找 S3 替代。
分布式存储与RustFS10 天前
云原生·kubernetes·开源·对象存储·分布式存储·s3·rustfs
给 Kubernetes 找一个对象存储后端:RustFS Helm 部署 + 应用接入实录集群里跑着训练任务和日志管道,PVC 块存储越堆越多:扩容量要等重建、多个 Pod 抢同一份数据时还要自己处理锁和拷贝。你查了一圈,发现这类工作负载真正需要的是一个 S3 兼容的对象存储后端——对象不上锁、随便共享、还能挂生命周期策略自动归档。于是你在集群里起了个 MinIO,但 AGPL 的许可条款让法务皱了眉,镜像里那些遥测也让数据主权强迫症难受。
seacracker24 天前
s3·ai存储·统一存储·powerfs
三套存储系统数据孤岛怎么破?PowerFS协议无关数据层+Filer Raft强一致元数据一次解决POSIX 文件系统一套、KV 引擎一套、S3 对象存储一套——企业里三套存储系统并存,数据靠搬运互通,元数据三份各自维护,跨协议可见性按分钟计。本文讲清楚 PowerFS 如何用 协议无关的 Needle 数据层 + Filer Raft 强一致元数据层,让 POSIX / KV / S3 三种协议共享同一份元数据、同一池数据,从根上消除数据孤岛。
分布式存储与RustFS1 个月前
iceberg·对象存储·s3·分布式对象存储·rustfs·minio平替·s3 tables
对象存储正在吞掉数据湖:S3 Tables 把 Iceberg 收编成存储的原生能力一套 50TB 的 Iceberg 湖仓跑在 S3 上,某天一条 SELECT count(*) 跑了 40 秒。你以为是扫描慢,翻 metrics 才发现 80% 的时间花在 LIST 请求上——查询引擎为了拿到最新 manifest,把几万个小文件挨个列了一遍。这不是个例:当你把 data file、manifest file、独立 catalog(Glue / Unity / Nessie)分开养,湖仓的元数据就成了三套系统各自记账的「双重账本」。最近 MinIO 把 AIStor Tables 推
johnny2333 个月前
s3
S3命令行工具:rclone、s3cmd、s5cmd、mc、S3CopyS3(Simple Storage Service)是AWS推出的对象存储服务,其HTTP REST API已成为整个行业的事实标准协议,几乎所有主流对象存储都宣称"兼容S3 API":
亚林瓜子3 个月前
云计算·生命周期·aws·s3·过期·glacier
AWS S3日志桶常用过期文件生命周期策略s3桶中存了大量查询一次就不会查询的日志数据,这些数据文件保存,是占s3费用的。需要一个文件过期策略定期清理日志文件。
分布式存储与RustFS5 个月前
对象存储·s3·企业存储·rustfs·minio国产化替代·minio平替·国产对象存储rustfs
MinIO 社区版 vs 企业版 vs RustFS:2026 全面拆解,AGPL 协议风险与信创适配必看以下是深入学习 RustFS 的推荐资源:RustFS官方文档: RustFS 官方文档- 提供架构、安装指南和 API 参考。
是萝卜干呀5 个月前
minio·s3·模拟云存储
Minio 模拟S3云存储目录一、前言二、官网下载三、启动 minio 服务端1.启动服务端2.使用服务端3.公开访问某桶文件四、C#项目使用minio上传文件
百里杨6 个月前
s3·acpi·s0
ACPI电源按钮唤醒S3切换到S0流程(附流程图)在 ‌S3(挂起到内存 / Suspend to RAM)‌ 状态下,系统仅保留内存供电,其余硬件(如CPU、硬盘、外设等)断电。唤醒S3并恢复到 ‌S0(工作状态)‌ 的主要方式如下:
百里杨6 个月前
s3·acpi·s0
ACPI休眠按钮触发S0切换到S3流程(附流程图)从硬件(休眠按钮)触发一个电平变化,到操作系统优雅地冻结用户空间、挂起设备驱动,最后让CPU断电、内存进入自刷新——这一切都必须严格遵循ACPI(高级配置与电源接口)这个复杂的标准。
亚林瓜子9 个月前
云计算·etl·aws·s3·glue
AWS中国云中的ETL之从aurora搬数据到s3(Glue版——修复版)AWS中国云中的ETL之从aurora搬数据到s3(Glue版) 之前这个方式,在数据比较大的情况下,会出现对mysql全表扫描问题。
nicepainkiller9 个月前
云计算·aws·s3
aws s3 对象存储 上传文件最近在做国外业务:用到亚马逊s3服务 。上传文件到对象存储。发现有意思的事情:而且决绝问题的文档少的可怜。所有这边记录下 方便大家填坑
DevOps0081 年前
rust·gitlab·minio·分布式存储·s3·rustfs
将 RustFS 用作 GitLab 对象存储后端本文分享将 RustFS 作用 GitLab 对象存储后端的安装、配置以及使用过程。文章整体分为:RustFS 是用 Rust 语言编写的新一代分布式存储,可视为 MinIO 的平替,完全兼容 S3。由于使用 Rust 编写,所以性能更优、也更安装。RustFS 支持二进制、Docker 安装。本文使用二进制安装。执行如下命令即可完成安装:
ApacheSeaTunnel1 年前
大数据·mysql·开源·数据集成·s3·seatunnel·数据同步
MySQL 数据同步至 S3file,并接入 Hive 访问:SeaTunnel 实践指南作者 | 番兄如何借助 Apache SeaTunnel 将 MySQL 数据高效同步至 S3file?本文详述的步骤已全部通过测试验证,适用于构建基于对象存储的数据中台场景,具备部署灵活、扩展性强等优势,对有 MySQL 到 S3 数据集成需求的用户具有较高的参考价值,点赞、收藏学习吧!