s3

知行EDI8 天前
阿里云·edi·oss·s3
知行之桥 S3 端口或归档中配置阿里云 OSS 使用指南本指南将带你一步步完成配置,让 知行之桥 S3 端口 可以直接对接 阿里云对象存储服务(OSS),用于文件的上传和管理。整个过程只需要在两个页面中填写几项信息即可完成,无需编写代码。
分布式存储与RustFS9 天前
云原生·开源·对象存储·分布式存储·s3·rustfs·性能基准
RustFS 多协议接入全景:S3 之外,Swift/Keystone 与 SFTP/FTPS 怎么选一套对象存储前面如果只开 S3,大多数场景确实够用,但总有那么几个瞬间会卡住:运维想临时丢一个大文件进去、某台老系统只认 SFTP、或者你这套存储要并到既有的 OpenStack 体系里,那边全是 Swift 客户端。这时候常见的做法是再架一层网关,等于多养一个组件、多一处故障点。
分布式存储与RustFS9 天前
云原生·开源·对象存储·分布式存储·s3·rustfs·性能基准
在 Kubernetes 上用 RustFS Operator 给 Tenant 开 KMS 加密:spec.encryption 实战一套跑在 Kubernetes 里的对象存储,只要开始接业务数据,迟早会碰到加密这个命题:等保、HIPAA、PCI 这类合规框架基本都要求"静态数据加密 + 密钥可审计"。我见过不少团队把数据落进对象存储后才发现,存的是用户上传的证件、病历或合同,没有服务端加密,合规那一关就过不去。
分布式存储与RustFS10 天前
云原生·开源·对象存储·分布式存储·s3·rustfs·性能基准
RustFS 1.0 GA 前的生产验收清单:从 rc.1 到 GA 该准备什么一支存储团队决定把某类数据从公有云 S3 迁回自建,或者给 AI 训练管线找一块 S3 兼容的本地存储,往往会把 RustFS 放进候选。我最近帮两个团队做选型,他们问的不是"能不能跑",而是"rc.1 能不能上生产、上线前我该验收什么"。这个问题问得对——候选发布版本和 GA 之间的差距,要靠一份清单去填,而不是靠热度去赌。
分布式存储与RustFS11 天前
云原生·开源·对象存储·分布式存储·s3·rustfs·性能基准
RustFS 1.0.0-rc.5 发布:GA 前的最后一次大版本打磨一句话定位:RustFS 是面向 AI 时代、从零原生打造的高性能分布式对象存储,100% 兼容 S3 API,Apache 2.0 协议,底层用 Rust 构建,可作为 MinIO 的 drop-in 替代方案。
分布式存储与RustFS12 天前
云原生·开源·对象存储·分布式存储·s3·rustfs·性能基准
把 RustFS 当 ClickHouse 的 S3 存储盘:冷热分层落对象存储一句话定位:RustFS 是面向 AI 时代、从零原生打造的高性能分布式对象存储,100% 兼容 S3 API,Apache 2.0 协议,可作为 MinIO 的 drop-in 替代方案。
分布式存储与RustFS16 天前
云原生·开源·对象存储·分布式存储·s3·rustfs·性能基准
用 RustFS 原生 CLI `rc` 管对象存储:从 alias 到 cp 的完整玩法一句话定位:RustFS 是面向 AI 时代、从零原生打造的高性能分布式对象存储,100% 兼容 S3 API,Apache 2.0 协议,底层用 Rust 构建,可作为 MinIO 的 drop-in 替代方案。
分布式存储与RustFS16 天前
云原生·开源·对象存储·分布式存储·s3·rustfs·性能基准
用 RPM/DEB 包在 Linux 上安装 RustFS:生产落地第一步一句话定位:RustFS 是面向 AI 时代、从零原生打造的高性能分布式对象存储,100% 兼容 S3 API,Apache 2.0 协议,底层用 Rust 构建,可作为 MinIO 的 drop-in 替代方案。
分布式存储与RustFS18 天前
云原生·开源·对象存储·分布式存储·s3·rustfs·性能基准
RustFS 生命周期与分层:让冷数据自动搬家、热数据自己回家一个训练日志桶,三个月前的调试日志没人看了,却还在占着高性能 NVMe 的贵价空间。我见过不少团队靠手写 cron 脚本定期 mc rm 来清过期数据,结果脚本哪天挂了没人发现,磁盘悄悄被塞满。RustFS 把这类需求做成了原生的生命周期(Lifecycle)与分层(Tiering)能力:过期规则按桶配置,冷数据还能异步迁到便宜的远端存储,本地只留元数据继续服务读。这篇文章把规则写法、分层后端和几个边界讲清楚。
分布式存储与RustFS22 天前
云原生·开源·对象存储·分布式存储·s3·rustfs·性能基准
RustFS 原生支持 S3 Tables:对象存储怎么变成 AI 原生存储一套 AI 训练管线里,原始图片、视频、文本扔在对象存储,训练样本的特征表、标签、检查点元数据却躺在数仓或单独的湖仓里。两套房系统,数据要在之间来回搬,搬一次就多吃一遍网络带宽、多一截延迟。2024 年 AWS 推出 S3 Tables,把 Apache Iceberg 这种表格式直接塞进对象存储核心;2026 年 6 月 15 日,RustFS 官方博客宣布原生支持 S3 Tables 已接近完成。这条线值得认真看——它把"对象存储"和"AI 原生存储"之间的墙打通了。
分布式存储与RustFS22 天前
对象存储·s3·rustfs
用 rclone 把现有 S3/MinIO 数据同步到 RustFS有套 MinIO 跑了两年,里面是数据库备份和客户交付物。你想在 RustFS 上再做一份异地副本,万一主存储出问题能拉得回来。不想写迁移脚本,也不想引入新组件——rclone 一个二进制就够。
分布式存储与RustFS24 天前
云原生·开源·对象存储·分布式存储·s3·rustfs·性能基准
在自己的机器上复现 RustFS 性能基准:warp 压测实操2026-07-17 RustFS 发了 1.0.0-beta.10,官方 warp 压测里 PUT 在 4MiB 对象上跑出 2.85× 于 MinIO。我看到这种数字第一反应是:我的机器能复现吗?还是只在 Azure 那套 4 节点 × 4 盘、32000 IOPS 的 NVMe 配置上才成立?这篇就讲怎么在你自己机器上把这套基准跑出来,以及哪些数字你能信、哪些得打折。
分布式存储与RustFS25 天前
云原生·开源·对象存储·分布式存储·s3·rustfs·性能基准
把 12TB 生产数据从 MinIO 迁到 RustFS:一次真实迁移的实测有一支团队在 2026 年 3 月把一个跑了多年的生产对象存储从 MinIO 迁到了 RustFS,数据量 12.4TB、4700 万个对象,单周末切完。他们公开了迁移前后在同一套硬件上的实测数字。我把它拆开看,不是想证明谁赢,而是想弄明白:对一个已经在用 MinIO 的团队,换成 RustFS 到底改了什么、收益落在哪、代价又是什么。结论先放这——写路径和运维开销的改善是真金白银,协议层面几乎零改动。
分布式存储与RustFS1 个月前
对象存储·s3·rustfs
给 RustFS 加第二个池:volumes 省略号语法与多池扩容路线1. 问题背景:容量不够了,加盘还是加池2. volumes 语法基础:位置参数与省略号3. 单节点多盘与省略号展开
分布式存储与RustFS1 个月前
云原生·开源·对象存储·分布式存储·s3·rustfs·性能基准
RustFS 监控实战:OpenTelemetry Collector 把指标接入 Prometheus + Grafana集群里 RustFS 跑了三节点,某天业务反馈写入变慢,你上去想看吞吐和在线节点数,却发现 :9000/metrics 抓不到任何 Prometheus 数据。不是没监控能力,是 RustFS 的指标走的是另一条路:OpenTelemetry,不是 Prometheus 拉。
分布式存储与RustFS1 个月前
云原生·开源·对象存储·分布式存储·s3·rustfs·性能基准
从 MinIO 到 RustFS:不只是换语言,更是换一份协议自由一次选型评审,技术方案都过了,卡在法务:产品要通过网络对外提供基于 MinIO 的能力,而 MinIO 是 AGPL v3,按条款"网络服务即分发",得把整个服务的源码开源。团队不想为用一个存储组件把核心业务敞开,于是开始找 S3 替代。
分布式存储与RustFS1 个月前
云原生·kubernetes·开源·对象存储·分布式存储·s3·rustfs
给 Kubernetes 找一个对象存储后端:RustFS Helm 部署 + 应用接入实录集群里跑着训练任务和日志管道,PVC 块存储越堆越多:扩容量要等重建、多个 Pod 抢同一份数据时还要自己处理锁和拷贝。你查了一圈,发现这类工作负载真正需要的是一个 S3 兼容的对象存储后端——对象不上锁、随便共享、还能挂生命周期策略自动归档。于是你在集群里起了个 MinIO,但 AGPL 的许可条款让法务皱了眉,镜像里那些遥测也让数据主权强迫症难受。
seacracker1 个月前
s3·ai存储·统一存储·powerfs
三套存储系统数据孤岛怎么破?PowerFS协议无关数据层+Filer Raft强一致元数据一次解决POSIX 文件系统一套、KV 引擎一套、S3 对象存储一套——企业里三套存储系统并存,数据靠搬运互通,元数据三份各自维护,跨协议可见性按分钟计。本文讲清楚 PowerFS 如何用 协议无关的 Needle 数据层 + Filer Raft 强一致元数据层,让 POSIX / KV / S3 三种协议共享同一份元数据、同一池数据,从根上消除数据孤岛。
分布式存储与RustFS2 个月前
iceberg·对象存储·s3·分布式对象存储·rustfs·minio平替·s3 tables
对象存储正在吞掉数据湖:S3 Tables 把 Iceberg 收编成存储的原生能力一套 50TB 的 Iceberg 湖仓跑在 S3 上,某天一条 SELECT count(*) 跑了 40 秒。你以为是扫描慢,翻 metrics 才发现 80% 的时间花在 LIST 请求上——查询引擎为了拿到最新 manifest,把几万个小文件挨个列了一遍。这不是个例:当你把 data file、manifest file、独立 catalog(Glue / Unity / Nessie)分开养,湖仓的元数据就成了三套系统各自记账的「双重账本」。最近 MinIO 把 AIStor Tables 推
johnny2334 个月前
s3
S3命令行工具:rclone、s3cmd、s5cmd、mc、S3CopyS3(Simple Storage Service)是AWS推出的对象存储服务,其HTTP REST API已成为整个行业的事实标准协议,几乎所有主流对象存储都宣称"兼容S3 API":