对象存储

分布式存储与RustFS14 小时前
云原生·开源·对象存储·分布式存储·s3·rustfs·性能基准
模型权重散落在每台 GPU?用 RustFS 给 vLLM 做共享权重库多卡推理集群要面对一个现实:模型权重散落在每台机器上,节点越多越难管。A 节点还跑着上周的量化版,B 节点已经换上新 checkpoint,排查「为什么两台机器输出不一样」时,第一反应往往是去比对本地缓存。扩容一台新机器,光把几十 GB 的权重从 Hub 拉到本地盘就要等半天。把权重收进一个统一的对象存储桶,让所有节点只读同一份源,这个老问题其实有更省心的解法。
分布式存储与RustFS2 天前
运维·开源·备份·对象存储·1panel·s3·rustfs
你的网站备份只存一块盘?把 1Panel 的备份目标换成 RustFS网站文件、数据库、证书、面板自己的配置,全躺在一台服务器的盘上。1Panel 的备份功能其实早就备好了出路:官方文档写明备份账号支持对接云端存储,官网也把"一键备份与恢复,并可对接多种云端存储"挂在特性列表里。但相当一部分人装完面板,备份任务的目标就一直停在服务器本地盘上。盘一坏、机器被回收,备份和数据一起陪葬。这篇把这条出路走通:让 1Panel 的计划任务把备份推到 RustFS 上。RustFS 是面向 AI 时代、从零原生打造的高性能分布式对象存储,100% 兼容 S3 协议,Apache 2.0
分布式存储与RustFS2 天前
云原生·开源·对象存储·分布式存储·s3·rustfs·性能基准
十分钟在自己机器上跑通一个 S3 兼容对象存储(RustFS + Docker)本地联调代码要一个对象存储、给客户做 POC 要演示、边缘小站想垫一层存储底座,都不值得专门为它采购和运维一套分布式集群。一条 docker run 就能在笔记本或一台小服务器上把 RustFS 跑起来,S3 接口直接可用,代码里把 endpoint 指过来就能测。这篇把从拉镜像到用 aws-cli 建桶的完整路径走一遍,并把几个最容易卡住的点讲清楚。
分布式存储与RustFS3 天前
云原生·开源·对象存储·分布式存储·s3·rustfs·性能基准
在 1Panel 应用商店部署 RustFS:安装、配置与验证步骤装一套对象存储,教程往往一上来就是十几行的 docker run:挂卷、设环境变量、开端口,装完还得自己琢磨凭证和 TLS 的事。如果只是想给备份、图床或者网盘找个存储后端,可以先走一条更省事的路:RustFS 已经上架了 1Panel 的应用商店,安装、升级、日志查看都能在面板里完成。RustFS 是一个开源的分布式对象存储,100% 兼容 S3 协议,采用 Apache 2.0 协议。
分布式存储与RustFS4 天前
云原生·开源·对象存储·分布式存储·s3·rustfs·性能基准
GPU 在空转等数据?PyTorch 训练集进 RustFS 的三种接法分布式训练里最尴尬的一幕往往是:GPU 算完一批,下一批数据还没从存储拉上来,几十张卡集体空转。把训练集放在对象存储、训练节点按需拉取,能把存储和计算彻底解耦,训练集群扩缩容时存储不用跟着动。很多团队一开始把数据集塞在本地 NVMe,单机训没问题,一上分布式多机就发现数据搬不动、各机看到的还不是同一份;对象存储用同一个 key 空间,所有节点读的是同一份数据,这份一致性是分布式训练的前提。RustFS 是 100% 兼容 S3 的存储,PyTorch、TensorFlow 不用改框架代码,只要把 endp
分布式存储与RustFS5 天前
运维·云原生·开源·对象存储·分布式存储·s3·性能基准
把 LSM 引擎直接架在对象存储上:slatedb 能不能跑在 RustFS 上?RocksDB 这类嵌入式 KV 天生绑定一块本地 SSD,副本和跨区复制都得自己补。slatedb 反过来,把 WAL(写前日志)和 SST(排序字符串表)全部写进 S3 兼容对象存储,本地盘只做缓存。它能不能直接架在 RustFS 上?配置层面能:slatedb 用的是 object_store 那套抽象,官方口径支持任何实现 ObjectStore trait 的存储。但官方 Compatibility 页的测试目标里没有 RustFS,双方集成清单也没互相收录,这个组合没有任何一方背书,该自己测的
分布式存储与RustFS6 天前
运维·云原生·开源·对象存储·分布式存储·s3·性能基准
机器要下线,数据先线上搬家:RustFS 存储池退役实操分布式存储跑几年,总有一批机器要退役:过保的节点、容量更小的旧盘、要合并的机房。难点不在“关掉它”,在于关掉之前那一池数据得有人搬到别处去。RustFS 的存储池退役(pool decommission)就是干这件专门活的:把选定池里的对象迁到剩余活跃池,腾空之后再把它从集群拓扑里摘掉,全程不用你手写迁移脚本。注意退役以池为单位:想换一块小盘、退一台机器,只能把包含它的池整体退役,不能只摘单块盘。它和“删数据”完全不同:退役是先搬后删,保证搬完才下线,不会出现数据半路消失;搬迁阶段在线做,收尾摘池之后需要
分布式存储与RustFS12 天前
运维·云原生·开源·对象存储·分布式存储·s3·性能基准
RustFS 该跟 stable 还是 nightly?两条版本线的分工、风险与回退,一张表说清9 月 16 日装的 1.0.0,10 月 3 日 release 页冒出 1.0.1,同页每个平台还多挂了一个 -latest.zip;另一条线上,每天北京时间 0 点 07 分 CI 会打出一个按日期命名的 nightly 包。跟版本号、跟 latest 别名、跟 nightly,三种跟法对应三种维护姿势。这篇把两条公开版本线各自的分工、升级风险和回退方式讲清,所有时间、文件名与链接都来自 release 页和 CI 配置的实测,结尾给一张决策表。
分布式存储与RustFS14 天前
运维·云原生·开源·对象存储·分布式存储·s3·性能基准
训练集放在 RustFS 上,怎么像本地盘一样快?用 Curvine 加一层 POSIX 缓存把 AI 训练集、模型权重往 RustFS 这类对象存储里一丢,爽的是容量近乎无限、多副本持久化、S3 接口谁都能读。别扭的也是接口:训练框架要的是 POSIX 文件语义,也就是能 open/read/seek、能重命名、能列目录,还要 GPU 跑着跑着就近读到热数据,而不是每次都走网络把对象整块拖回来。对象存储原生没有 POSIX,热读反复拉取也慢,随机 seek 和按 offset 读一块这种操作更是它的弱项,这层 gap 得有人补。典型的训练循环里,每个 epoch 都会把整个数据集从头读一遍;如果
分布式存储与RustFS16 天前
运维·云原生·开源·对象存储·分布式存储·s3·性能基准
指标、日志、链路进同一个桶:GreptimeDB 存算分离解读与 RustFS 接入配置传统可观测性栈是三套系统起手:Prometheus 收指标,Loki 或 Elasticsearch 收日志,Jaeger 或 Tempo 收链路。三套系统三份运维,存储各管各的,想关联着查还要在应用层拼。GreptimeDB 的思路是把指标、日志、链路当成同一类数据:都是带时间戳的表,一个用 Rust 写的列式引擎统一吃下,SQL 查指标之外的一切,PromQL 查指标,长期数据放对象存储上。项目在 GitHub 上是 GreptimeTeam/greptimedb,Apache 2.0 协议,2026
分布式存储与RustFS16 天前
运维·云原生·开源·对象存储·分布式存储·s3·性能基准
RustFS 上生产第一步:从单机到 4 节点多盘集群(MNMD)部署实操单机装 RustFS 是十分钟的事:官方安装脚本一条命令跑完,数据落在 /data/rustfs0 一块盘上。但这条命令装出来的形态叫 SNSD(单节点单磁盘),文档里写明没有冗余,盘坏了数据只能靠备份捞。真正上生产,官方给的是另一套起步形态:MNMD(多节点多磁盘),至少 4 台服务器、每台至少 1 块盘,数据跨服务器跨盘打散。这篇按官方 Linux 部署文档把从单机到 4 节点集群的路径走一遍:三种形态怎么分、集群配置怎么写、12+4 的纠删码布局能丢什么、装完怎么验证。所有命令和配置项都对着官方文档
分布式存储与RustFS18 天前
运维·云原生·开源·对象存储·分布式存储·s3·性能基准
rclone 与 mc mirror:S3 对象存储同步,限速、过滤、断点续传实测对比把一批文件在两个 S3 兼容存储之间搬或者同步,rclone 和 mc 是最常见的两个命令行工具。网上对比文章不少,但多数是抄帮助文档,没真跑过。这篇把两个工具接在同一个 RustFS 上,限速、过滤、增量、断点四组场景逐个实测,数字都是本机跑出来的,复现命令在文末,你可以照着重跑对拍。
RuoyiOffice20 天前
spring boot·vue3·文件管理·对象存储·权限控制·ruoyi office·附件管理
SpringBoot+Vue3+Onlyoffice 企业文件生命周期:上传、业务关联、权限、版本与安全清理🌐 文档地址:https://ruoyioffice.com 👇 文章底部获取源码和演示地址 👇 💬 :17156169080(获取产品咨询)
灯澜忆梦25 天前
分布式·网络协议·https·对象存储·minio
【minio】#5 | MinIO 分布式部署 + HTTPS 部署生产环境推荐:多磁盘、多主机分布式集群,支持数据分片、故障容错。集群节点:架构说明:2 台机器,每台挂载 2 块磁盘,总共 4 块盘组成分布式集群。支持后期动态扩容。
灯澜忆梦1 个月前
docker·对象存储·minio
【minio】#1 | 简介与安装简介:MinIO 第一课复习笔记,包含对象存储概念、S3 协议介绍、MinIO 特性、许可证坑点、Docker 一键部署实战,适合后端开发学习。
灯澜忆梦1 个月前
对象存储·minio
【minio】#2 | Web 控制台操作重要:对象锁定只能在创建 Bucket 的时候开启,创建完成后无法修改适用行业:金融、医疗,强制保存日志、合同,防止数据篡改删除
梦想不只是梦与想1 个月前
数据库·对象存储·图片存储
对象存储服务器vs数据库图片可以存进普通数据库,但代价极高,几乎没人这么做。原因不是“技术上做不到”,而是数据库的设计目标与图片的存储需求根本不匹配。
分布式存储与RustFS1 个月前
运维·云原生·开源·对象存储·分布式存储·s3·性能基准
升级 RustFS 二进制不停机:一条一条换,留一条退路一个四节点集群跑了半年没重启过,版本落后两个小版本。升级这件事真正的难点是出了事怎么退回去,把新二进制放上去那一步反而不难。RustFS 官方的二进制升级页给的流程很短,但里面那两条备份命令才是整个流程的核心:备份配置,以及把当前正在跑的那个可执行文件另存一份。少了第二条的升级,等于把回滚路径删掉了。
分布式存储与RustFS1 个月前
运维·云原生·开源·对象存储·分布式存储·s3·性能基准
日志目录的预算是 2 GiB:轮转、保留和压缩这三件事一台机器跑到半夜,磁盘告警,第一反应是查谁在写大文件,翻下去发现是 rustfs.log 一个文件占了十几 G。这种事在没配日志目录的部署上很常见。RustFS 的日志行为由可观测性那一组环境变量管。轮转时间、保留份数、总大小预算这三个默认值单独看都合理,合在一起却会互相影响,这也是日志目录最容易悄悄涨满的原因。只是真涨满的时候,往往不是这三条规则漏了。
分布式存储与RustFS1 个月前
运维·云原生·开源·对象存储·分布式存储·s3·性能基准
图床搬到自己的对象存储:PicGo 加 S3 插件的完整配置图床是很多人第一次真正用上对象存储的场景:写博客要贴图,截图一多,本地路径、第三方图床的失效链接、配额限制轮番找上门。把图床后端换成自己的 S3 兼容存储,一次配好之后上传是 Ctrl+V 的事,链接在自己手里,不担心哪天服务关停。