对象存储

杉岩数据1 天前
对象存储·分布式存储·检测图片·工厂存储·生产数据
制造工厂海量生产数据统一存储管理方案与实践在制造业的数字化转型浪潮中,许多工厂都经历过这样的现实困境:产线高速运转,高清摄像头每秒都在生成海量的图像与视频数据,但后端的存储系统却成了“拦路虎”。传统的文件服务器在数据量突破千万级时,响应速度急剧下降,工程师想要调取一个月前的某批次产品质检图,往往需要等待数分钟甚至更久。这种延迟不仅拖慢了生产节奏,更让基于大数据的质量追溯和 AI 模型训练变得举步维艰。当非结构化数据的规模膨胀到亿级甚至十亿级文件时,继续依赖旧有的 NAS(网络附属存储)架构,无论在性能、可靠性还是扩展性上,都难以满足现代智能制造的
分布式存储与RustFS9 天前
云原生·开源·对象存储·分布式存储·s3·rustfs·性能基准
RustFS 多协议接入全景:S3 之外,Swift/Keystone 与 SFTP/FTPS 怎么选一套对象存储前面如果只开 S3,大多数场景确实够用,但总有那么几个瞬间会卡住:运维想临时丢一个大文件进去、某台老系统只认 SFTP、或者你这套存储要并到既有的 OpenStack 体系里,那边全是 Swift 客户端。这时候常见的做法是再架一层网关,等于多养一个组件、多一处故障点。
分布式存储与RustFS9 天前
云原生·开源·对象存储·分布式存储·s3·rustfs·性能基准
在 Kubernetes 上用 RustFS Operator 给 Tenant 开 KMS 加密:spec.encryption 实战一套跑在 Kubernetes 里的对象存储,只要开始接业务数据,迟早会碰到加密这个命题:等保、HIPAA、PCI 这类合规框架基本都要求"静态数据加密 + 密钥可审计"。我见过不少团队把数据落进对象存储后才发现,存的是用户上传的证件、病历或合同,没有服务端加密,合规那一关就过不去。
分布式存储与RustFS10 天前
云原生·开源·对象存储·分布式存储·s3·rustfs·性能基准
RustFS 1.0 GA 前的生产验收清单:从 rc.1 到 GA 该准备什么一支存储团队决定把某类数据从公有云 S3 迁回自建,或者给 AI 训练管线找一块 S3 兼容的本地存储,往往会把 RustFS 放进候选。我最近帮两个团队做选型,他们问的不是"能不能跑",而是"rc.1 能不能上生产、上线前我该验收什么"。这个问题问得对——候选发布版本和 GA 之间的差距,要靠一份清单去填,而不是靠热度去赌。
分布式存储与RustFS11 天前
云原生·开源·对象存储·分布式存储·s3·rustfs·性能基准
RustFS 1.0.0-rc.5 发布:GA 前的最后一次大版本打磨一句话定位:RustFS 是面向 AI 时代、从零原生打造的高性能分布式对象存储,100% 兼容 S3 API,Apache 2.0 协议,底层用 Rust 构建,可作为 MinIO 的 drop-in 替代方案。
分布式存储与RustFS12 天前
云原生·开源·对象存储·分布式存储·s3·rustfs·性能基准
把 RustFS 当 ClickHouse 的 S3 存储盘:冷热分层落对象存储一句话定位:RustFS 是面向 AI 时代、从零原生打造的高性能分布式对象存储,100% 兼容 S3 API,Apache 2.0 协议,可作为 MinIO 的 drop-in 替代方案。
SomeBottle13 天前
python·计算机网络·学习笔记·对象存储·cdn·折腾
【小记】图片托管从又拍云迁移到腾讯云 EO + COS(兼容图片处理参数)2026 年 9 月 4 日,我正写着半年总结的博文呢,突然发现托管在又拍云上的图片无法访问了,去 itdog 测了一下发现真的是又拍云的节点炸完了,之前从未遇到这种情况。
分布式存储与RustFS16 天前
云原生·开源·对象存储·分布式存储·s3·rustfs·性能基准
用 RustFS 原生 CLI `rc` 管对象存储:从 alias 到 cp 的完整玩法一句话定位:RustFS 是面向 AI 时代、从零原生打造的高性能分布式对象存储,100% 兼容 S3 API,Apache 2.0 协议,底层用 Rust 构建,可作为 MinIO 的 drop-in 替代方案。
分布式存储与RustFS16 天前
云原生·开源·对象存储·分布式存储·s3·rustfs·性能基准
用 RPM/DEB 包在 Linux 上安装 RustFS:生产落地第一步一句话定位:RustFS 是面向 AI 时代、从零原生打造的高性能分布式对象存储,100% 兼容 S3 API,Apache 2.0 协议,底层用 Rust 构建,可作为 MinIO 的 drop-in 替代方案。
分布式存储与RustFS18 天前
云原生·开源·对象存储·分布式存储·s3·rustfs·性能基准
RustFS 生命周期与分层:让冷数据自动搬家、热数据自己回家一个训练日志桶,三个月前的调试日志没人看了,却还在占着高性能 NVMe 的贵价空间。我见过不少团队靠手写 cron 脚本定期 mc rm 来清过期数据,结果脚本哪天挂了没人发现,磁盘悄悄被塞满。RustFS 把这类需求做成了原生的生命周期(Lifecycle)与分层(Tiering)能力:过期规则按桶配置,冷数据还能异步迁到便宜的远端存储,本地只留元数据继续服务读。这篇文章把规则写法、分层后端和几个边界讲清楚。
云存储小天使20 天前
缓存·腾讯云·对象存储·goosefs
训练效率提升50%以上:GooseFS 写缓存及其在具身智能数据处理中的应用在具身智能场景中,数据处理业务交付周期紧张时,提升任务并发容易触发对象存储流控,影响处理效率。引入 GooseFS 写缓存方案,利用高性能缓存层加速数据处理链路,可显著提升持久化效率。某具身智能企业引入 GooseFS 写缓存方案后,训练效率提升 50% 以上,整体存储成本降低约 70%。本文将从瓶颈分析、架构解析、最佳实践和模式泛化四个维度解析该方案。
java_logo20 天前
运维·docker·容器·对象存储·minio·轩辕镜像·minio部署
Docker 部署 MinIO:轻松搭建 S3 兼容对象存储平台本文基于 minio/minio:RELEASE.2025-09-07T16-13-09Z,实测引擎 RELEASE.2025-09-07T16-13-09Z,测试平台 Ubuntu 24.04 Linux。
分布式存储与RustFS22 天前
云原生·开源·对象存储·分布式存储·s3·rustfs·性能基准
RustFS 原生支持 S3 Tables:对象存储怎么变成 AI 原生存储一套 AI 训练管线里,原始图片、视频、文本扔在对象存储,训练样本的特征表、标签、检查点元数据却躺在数仓或单独的湖仓里。两套房系统,数据要在之间来回搬,搬一次就多吃一遍网络带宽、多一截延迟。2024 年 AWS 推出 S3 Tables,把 Apache Iceberg 这种表格式直接塞进对象存储核心;2026 年 6 月 15 日,RustFS 官方博客宣布原生支持 S3 Tables 已接近完成。这条线值得认真看——它把"对象存储"和"AI 原生存储"之间的墙打通了。
分布式存储与RustFS22 天前
对象存储·s3·rustfs
用 rclone 把现有 S3/MinIO 数据同步到 RustFS有套 MinIO 跑了两年,里面是数据库备份和客户交付物。你想在 RustFS 上再做一份异地副本,万一主存储出问题能拉得回来。不想写迁移脚本,也不想引入新组件——rclone 一个二进制就够。
分布式存储与RustFS24 天前
云原生·开源·对象存储·分布式存储·s3·rustfs·性能基准
在自己的机器上复现 RustFS 性能基准:warp 压测实操2026-07-17 RustFS 发了 1.0.0-beta.10,官方 warp 压测里 PUT 在 4MiB 对象上跑出 2.85× 于 MinIO。我看到这种数字第一反应是:我的机器能复现吗?还是只在 Azure 那套 4 节点 × 4 盘、32000 IOPS 的 NVMe 配置上才成立?这篇就讲怎么在你自己机器上把这套基准跑出来,以及哪些数字你能信、哪些得打折。
分布式存储与RustFS25 天前
云原生·开源·对象存储·分布式存储·s3·rustfs·性能基准
把 12TB 生产数据从 MinIO 迁到 RustFS:一次真实迁移的实测有一支团队在 2026 年 3 月把一个跑了多年的生产对象存储从 MinIO 迁到了 RustFS,数据量 12.4TB、4700 万个对象,单周末切完。他们公开了迁移前后在同一套硬件上的实测数字。我把它拆开看,不是想证明谁赢,而是想弄明白:对一个已经在用 MinIO 的团队,换成 RustFS 到底改了什么、收益落在哪、代价又是什么。结论先放这——写路径和运维开销的改善是真金白银,协议层面几乎零改动。
分布式存储与RustFS1 个月前
对象存储·s3·rustfs
给 RustFS 加第二个池:volumes 省略号语法与多池扩容路线1. 问题背景:容量不够了,加盘还是加池2. volumes 语法基础:位置参数与省略号3. 单节点多盘与省略号展开
分布式存储与RustFS1 个月前
云原生·开源·对象存储·分布式存储·s3·rustfs·性能基准
RustFS 监控实战:OpenTelemetry Collector 把指标接入 Prometheus + Grafana集群里 RustFS 跑了三节点,某天业务反馈写入变慢,你上去想看吞吐和在线节点数,却发现 :9000/metrics 抓不到任何 Prometheus 数据。不是没监控能力,是 RustFS 的指标走的是另一条路:OpenTelemetry,不是 Prometheus 拉。
分布式存储与RustFS1 个月前
云原生·开源·对象存储·分布式存储·s3·rustfs·性能基准
从 MinIO 到 RustFS:不只是换语言,更是换一份协议自由一次选型评审,技术方案都过了,卡在法务:产品要通过网络对外提供基于 MinIO 的能力,而 MinIO 是 AGPL v3,按条款"网络服务即分发",得把整个服务的源码开源。团队不想为用一个存储组件把核心业务敞开,于是开始找 S3 替代。
分布式存储与RustFS1 个月前
云原生·kubernetes·开源·对象存储·分布式存储·s3·rustfs
给 Kubernetes 找一个对象存储后端:RustFS Helm 部署 + 应用接入实录集群里跑着训练任务和日志管道,PVC 块存储越堆越多:扩容量要等重建、多个 Pod 抢同一份数据时还要自己处理锁和拷贝。你查了一圈,发现这类工作负载真正需要的是一个 S3 兼容的对象存储后端——对象不上锁、随便共享、还能挂生命周期策略自动归档。于是你在集群里起了个 MinIO,但 AGPL 的许可条款让法务皱了眉,镜像里那些遥测也让数据主权强迫症难受。