分布式存储

青云交5 小时前
java·大数据·边缘计算·工业互联网·分布式存储·paxos·数据协同
Java 大视界 -- 基于 Java 的大数据分布式存储在工业互联网数据管理与边缘计算协同中的创新实践(364)嘿,亲爱的 Java 和 大数据爱好者们,大家好!我是CSDN(全区域)四榜榜首青云交!《2024 年工业互联网发展报告》显示,81% 的制造企业面临 “数据管理困境”:某汽车工厂的 2000 台设备每天产生 5TB 数据,因采用集中式存储,传输延迟超 800ms,导致生产线异常响应滞后 12 分钟,年损失达 3200 万元;76% 的边缘节点因算力不足,仅能采集数据无法实时分析,某风电场的风机振动数据需上传云端后才发现故障,停机维修成本增加 45%。
DevOps0085 天前
rust·gitlab·minio·分布式存储·s3·rustfs
将 RustFS 用作 GitLab 对象存储后端本文分享将 RustFS 作用 GitLab 对象存储后端的安装、配置以及使用过程。文章整体分为:RustFS 是用 Rust 语言编写的新一代分布式存储,可视为 MinIO 的平替,完全兼容 S3。由于使用 Rust 编写,所以性能更优、也更安装。RustFS 支持二进制、Docker 安装。本文使用二进制安装。执行如下命令即可完成安装:
青云交6 天前
java·大数据·分布式存储·高频交易·银行灾备·云计算数据中心·大数据分布式
Java 大视界 -- 基于 Java 的大数据分布式存储在云计算数据中心数据管理与调度中的应用(348)嘿,亲爱的 Java 和 大数据爱好者们,大家好!我是CSDN四榜榜首青云交!IDC《2024 全球云计算白皮书》显示,2028 年全球云计算数据量将达 180ZB,相当于每天新增 2 亿部 4K 电影 —— 但存储架构的滞后正在拖慢行业脚步:某证券交易所因高频交易数据存储延迟超 50ms,单日错失 37 笔关键交易;某三甲医院 CT 影像调阅需 30 秒,影响急诊判断;某汽车工厂设备日志存储扩容需停机 8 小时,导致生产线异常追溯滞后 4 小时。
DevOps00811 天前
rust·minio·分布式存储·s3·rustfs
在 Azure Linux 上安装 RustFS本文分享在 Azure Linux 上安装并使用对象存储 RustFS 的过程。RustFS 是一款用 Rust 语言编写的分布式存储系统,兼容 S3 协议,是 MinIO 的国产化平替。详情可以前往 RustFS 官网。目前,RustFS 支持二进制、Docker 安装方式,可以在 Linux、MacOS、Windows 上进行安装。下面分享在 Linux 上 安装并使用 RustFS 的过程。
大咖分享课17 天前
分布式·ceph·架构·分布式存储
深度剖析:Ceph分布式存储系统架构🚀 一文带你彻底搞懂Ceph的架构奥秘,从小白到架构师的进阶之路!1. Ceph简介:存储界的"多面手"
青云交2 个月前
java·大数据·工业互联网·分布式存储·冷热数据管理·hbase 优化·kudu 应用
Java 大视界 -- 基于 Java 的大数据分布式存储在工业互联网海量设备数据长期存储中的应用优化(248)《大数据新视界》和《 Java 大视界》专栏:《大数据新视界》和《 Java 大视界》专栏:💖亲爱的朋友们,热烈欢迎来到 青云交的博客!能与诸位在此相逢,我倍感荣幸。在这飞速更迭的时代,我们都渴望一方心灵净土,而 我的博客 正是这样温暖的所在。这里为你呈上趣味与实用兼具的知识,也期待你毫无保留地分享独特见解,愿我们于此携手成长,共赴新程!💖
青云交4 个月前
java·大数据·分布式·数据恢复·数据备份·分布式存储·并行处理
Java 大视界 -- 基于 Java 的大数据分布式存储系统的数据备份与恢复策略(139)💖亲爱的朋友们,热烈欢迎来到 青云交的博客!能与诸位在此相逢,我倍感荣幸。在这飞速更迭的时代,我们都渴望一方心灵净土,而 我的博客 正是这样温暖的所在。这里为你呈上趣味与实用兼具的知识,也期待你毫无保留地分享独特见解,愿我们于此携手成长,共赴新程!💖
杉岩数据5 个月前
大数据·视觉检测·制造·分布式存储·检测数据管理·质检图片存储
数智百问 | 制造企业如何降低产线检测数据的存储和管理成本?在《“十四五”智能制造发展规划》等政策的推动下,以及新能源汽车、消费电子等品牌商对产品质量和供应商智能化水平要求的提升,半导体、电子制造、动力电池等先进制造行业企业纷纷推进产线智能化升级,并投入大量机器视觉检测设备以实现自动化检测。这些设备会产生海量的质检图片、日志等非结构化数据,为了满足下游客户的质量追溯要求以及遵循国家相关质量控制行业标准,企业需要对全过程质检数据进行长期保存。
佟晖6 个月前
linux·ceph·分布式存储
ceph 16.2.15(Pacific)编译以下流程在ubuntu22.04 和 openEuler20.03 都实际操作过从https://docs.ceph.com/en/latest/releases/找到pacific版本对应的tag为16.2.15
Tassel_YUE7 个月前
分布式存储·rdma·技术分享·块存储·smartx
SmartX分享:SMTX ZBS 中 RDMA 技术简介我们清楚,分布式存储将利用网络作不同设备的互联。最基础的如TCP/IP的IP SAN,进阶的有FC SAN、IB等等。 SmartX 支持 10G以上的TCP/IP网络作为互联网络,同时也支持25G的RDMA网络。
运维小文8 个月前
ceph·云原生·对象存储·存储·分布式存储·cephfs
ceph的存储池管理注:在18.2.4版本中,创建存储池若不指定pg默认数量为32个1.创建存储池2.创建存储池时可以指定pg数量 ,一般情况下,pg和pgp数量一致。
RestCloud9 个月前
数据库·oceanbase·etl·分布式存储·数据集成·数据传输
OceanBase数据库结合ETLCloud快速实现数据集成随着信息技术的迅猛发展和数据量的急剧增加,企业面临着前所未有的数据管理挑战。传统的数据库系统在处理大规模、多样化的数据时往往显得力不从心。因此,分布式数据库应运而生,以其优越的性能和扩展性逐渐成为新一代数据存储解决方案。在众多分布式数据库中,OceanBase凭借其高可用、易扩展的特点,正在受到越来越多企业的青睐。
栀夏61310 个月前
分布式存储
minio 快速入门+单机部署+集群目录原理概念名词解释Set /Drive 的关系MinIO部署单机单机单盘单机多盘集群多机单盘多机多盘
志凌海纳SmartX10 个月前
数据库·金融·架构·虚拟化·分布式存储·超融合·vmware替代
《SmartX ELF 虚拟化核心功能集》发布,详解 80+ 功能特性和 6 例金融实践《SmartX ELF 虚拟化核心功能集》电子书现已发布!本书详细介绍了 SmartX ELF 虚拟化及云平台核心功能,包含虚机服务、容器服务、网络服务、存储服务、运维管理、工具服务、数据保护等各个方面。
Nicolas89310 个月前
人脸识别·分布式存储·隐私计算·mpc·vgg16·多方安全计算·明密文混合
【隐私计算篇】利用多方安全计算MPC实现VGG16人脸识别隐私计算模型本文主要介绍一种利用多方安全计算MPC技术,实现VGG16的人脸识别模型,侧重于模型推理阶段,此工作是多年前完成的,目前已经公开专利,其中涉及到最小化多方安全计算(MPC)以及明密文混合计算的思想,仅供参考。
木二10 个月前
kubernetes·存储·分布式存储
006.MinIO基础使用图形界面创建bucket。特性:Versioning 开启版本控制,开启版本控制则允许在同一键下保持同一对象的多个版本。
无休居士1 年前
分布式·分布式数据库·分布式存储·分布式文件系统·分布式存储的应用场景·集中式存储
【初出江湖】分布式之什么是分布式存储?分布式存储是一种将数据分散存储在多个节点上的存储方式。与传统的集中式存储相比,分布式存储将数据分布在多个节点上,每个节点都可以独立地存储和访问数据。这种分布式的存储方式可以提供更高的可靠性、可扩展性和性能。
木二1 年前
kubernetes·minio·分布式存储
005.MinIO-DirectPV分布式多租户存储部署本实验结合Kubernetes进行MinIO部署,实现MinIO于Kubernetes的融合。minio官方支持通过简单的快速部署,以便于进行基础测试:
木二1 年前
kubernetes·分布式存储
004.MinIO-DirectPV分布式存储部署Kubernetes hostpath、local和本地静态配置都存在需要事先在node节点准备好可用的块存储或文件系统,例如对插入的硬盘,或者磁盘阵列做分区格式化,文件系统则需提前创建好Kubernetes即将利用的挂载目录,并且两种方法都会有亲和性限制,无法做到让Kubernetes自身的去调度让数据卷分布在不同的node节点上。
花花花11 年前
web3·去中心化·区块链·nft·分布式存储·ipfs
使用Pinata在IPFS上存储NFT图片的实践随着区块链技术的快速发展,NFT(非同质化代币)在数字艺术、游戏和收藏品等领域变得越来越流行。一个关键的问题是如何安全、高效地存储这些NFT的元数据和图片。IPFS(InterPlanetary File System,星际文件系统)提供了一种分布式存储解决方案,能够有效解决这一问题。本文将介绍IPFS及其在NFT存储中的应用,并具体讲解如何使用Pinata平台🚪在IPFS上存储图片。