对象存储

百度智能云技术站13 天前
hdfs·数据湖·对象存储·并行文件存储
计算不停歇,百度沧海数据湖存储加速方案 2.0 设计和实践本文整理自百度云智峰会 2024 —— 云原生论坛的同名演讲。今天给大家介绍下百度沧海·存储团队在数据湖加速方面的工作进展情况。
wusong9993 个月前
笔记·对象存储·minio
minio笔记之windows下安装使用直接安装即可设置密码 set MINIO_ROOT_USER=admin set MINIO_ROOT_PASSWORD=12345678
戴国进4 个月前
对象存储·oss
分布式对象存储minio本教程minio 版本:RELEASE.2021-07-*及以上互联网海量非结构化数据的存储需求MinIO 是一个基于Apache License v2.0开源协议的对象存储服务。它兼容亚马逊S3云存储服务接口,非常适合于存储大容量非结构化的数据,例如图片、视频、日志文件、备份数据和容器/虚拟机镜像等,而一个对象文件可以是任意大小,从几kb到最大5T不等。
thanks4 个月前
大数据·对象存储
Bond——大数据时代的数据交换和存储格式设想我们在一家很大的互联网公司做IT方面的规划、开发和维护,有以下这样的应用场景:相信在大公司或者在大公司做过外包的童鞋,都接触过这样一种数据对象,那就是Bond格式,目前Bond由M$维护,官方网站:https://github.com/microsoft/bond/,上面提供了各种语言的示例、编译工具等。 一个基本的Bond文件如下所示:
MinIO官方账号5 个月前
linux·服务器·网络·安全·kubernetes·对象存储
MinIO 网络与覆盖网络云计算和容器化技术的发展改变了应用程序的开发、部署和管理方式。这种转变给网络环境带来了重大变化,为DevOps和SRE工程师带来了新的挑战和机遇。然而,在这种转变中,出现了明显的知识差距,特别是在理解物理网络和硬件背景下网络的复杂性方面。
NPE~5 个月前
云原生·容器·kubernetes·对象存储·csi·挂载
文件系统小册(Fuse&Posix&K8s csi)【3 K8s csi】往期文章:流程: ①k8s创建与挂载volume(ceph csi plugin为例)::②csi实现存储创建过程(ceph csi plugin为例):
CTRA王大大7 个月前
微信小程序·小程序·golang·对象存储·s3
【golang】动态生成微信小程序二维码实战下:golang 生成 小程序二维码图片 并通过s3协议上传到对象存储桶 | 腾讯云 cos在自研的系统,需要实现类似草料二维码的功能 将我们自己的小程序,通过代码生成相想要的小程序二维码代码已经上传到 Github 需要的朋友可以自取 https://github.com/ctra-wang/wechat-mini-qrcode
黯然神伤8887 个月前
java·前端·对象存储
前端、后端上传文件到OSS,简明记录上传文件到oss的方式:**后端上传:**文件先要从页面上传到后端存起来,再通过后端发送到oss,然后后端将存起来的文件删除(当然可以不删)。
繁依Fanyi7 个月前
开发语言·javascript·git·flutter·缓存·对象存储·oss
Flutter Provider 使用指南详解在Flutter应用程序开发中,状态管理是一个至关重要的方面。随着应用程序的复杂性增加,有效地管理和共享状态变得至关重要。Flutter Provider是一个流行的状态管理解决方案,它提供了一种简单而强大的方式来管理Flutter应用程序中的状态。
MinIO官方账号8 个月前
运维·人工智能·自动化·对象存储·minio·跨云
使用GitOps自动化推动AI/ML工作流程作为一名深耕自动化和人工智能领域的开发人员,我们逐渐认识到尖端工具和方法之间的显着协同作用,这些协同作用突破了可能性的界限。在这次探索中,我们想分享一个概念,它不仅彻底改变了我们的软件开发和基础设施管理方法,而且还打开了无尽创新的大门:GitOps。这种范例利用 Git 的力量作为卓越运营的基石,已经成为我们工具包中的游戏规则改变者,并为无限的可能性奠定了基础。
MinIO官方账号8 个月前
对象存储·minio·分布式存储·对象复制·跨云
复制策略深入探讨在之前的博客中,我们讨论了复制最佳实践和不同类型的复制,例如批量、站点和存储桶。但是,随着所有这些不同类型的复制类型的出现,人们不得不想知道在哪里使用哪种复制策略?从现有 S3 兼容数据存储迁移数据时,您使用 mc mirror 还是 Batch?在集群之间进行复制时,应该使用站点复制还是存储桶复制?
MinIO官方账号9 个月前
人工智能·apache·知识图谱·对象存储·minio
MinIO 和 Apache Tika:文本提取模式在这篇文章中,我们将使用 MinIO Bucket Notifications 和 Apache Tika 进行文档文本提取,这是大型语言模型训练和检索增强生成 LLM和RAG 等关键下游任务的核心。
MinIO官方账号10 个月前
人工智能·开源·k8s·硬件架构·对象存储·minio·分布式存储
AI 的未来是开源的想象一下,在未来,人工智能不会被锁在公司的金库里,而是由全球创新者社区一砖一瓦地在开放中构建的。协作,而不是竞争,推动进步,道德考虑与原始绩效同等重要。这不是科幻小说,而是人工智能发展核心正在酝酿的开源革命。但大型科技公司有自己的议程,将受限制的模型掩盖为开源,同时试图从真正开放的社区中获益。让我们剥开代码层,揭开这些努力背后的真相。这场对开源人工智能未来的探索将剖析人工智能开发中的“伪装者”,并捍卫“真正的伪装者”,以揭示开源软件在这一切之下嗡嗡作响的创新引擎。最重要的是,开源人工智能将产生一个开源数据
tuoluzhe852110 个月前
运维·服务器·云原生·对象存储·cos·oss·bos
最全对象存储(云盘)挂载本地主机或服务器分布式存储的应用场景相对于其存储接口,现在流行分为三种: 块存储: 这种接口通常以QEMU Driver或者Kernel Module的方式存在,这种接口需要实现Linux的Block Device的接口或者QEMU提供的Block Driver接口,块存储一般体现形式是卷或者硬盘(比如windows里面看到的c盘),数据是按字节来访问的,对于块存储而言,对里面存的数据内容和格式是完全一无所知的。可以简单的理解为玉米粒。 文件存储: 通常意义是支持POSIX接口,它跟传统的文件系统如Ext4是一个类型的,
大風起雲飛揚10 个月前
ceph·云原生·容器·kubernetes·对象存储·块存储·文件存储
Kubernetes集群部署Rook Ceph实现文件存储,对象存储,块存储Rook Ceph是Rook项目中的一个存储方案,专门针对Ceph存储系统进行了优化和封装。Ceph是一个高度可扩展的分布式存储系统,提供了对象存储、块存储和文件系统的功能,广泛应用于提供大规模存储解决方案。将Ceph与Rook结合,目的是利用Rook的云原生存储编排能力来简化Ceph在Kubernetes环境中的部署和管理。 Rook Ceph官网 Rook Ceph项目代码仓库
羽轩GM10 个月前
vue.js·spring boot·对象存储·oss
【第4期】Springboot集成阿里云对象存储OSS+Vue+Iview文件上传组件文件上传是非常常见的功能,本期要实现的功能是将文件存储到阿里云分布式对象存储OSS中,这样做的好处是随便哪里都可以方便的展示出该图片,并且图片以链接形式在客户端浏览器渲染,流量不会经过后台,降低后台压力,但若对文件有限制性的操作,还是要通过后台返回文件
小南家的青蛙10 个月前
linux·对象存储·minio
MinIO客户端之statMinIO提供了一个命令行程序mc用于协助用户完成日常的维护、管理类工作。官方资料获取指定桶或者对象的信息,包含对象的元数据。
疯狂学习GIS1 年前
运维·阿里云·对象存储·oss·云存储·外网流出·流量异常
阿里云对象存储OSS外网流出流量异常增多导致费用上升的解决方法本文介绍在使用阿里云的对象存储 OSS服务过程中,外网流量消耗异常增多并导致异常的费用支出这一情况的问题发现、问题定位与几种不同的问题解决方法。
一头小山猪1 年前
科技·对象存储·亚马逊云
亚马逊云科技 re:Invent 大会 - S3 对象存储华丽升级本篇文章授权活动官方亚马逊云科技文章转发、改写权,包括不限于在 亚马逊云科技开发者社区, 知乎,自媒体平台,第三方开发者媒体等亚马逊云科技官方渠道。
小强签名设计1 年前
对象存储·minio·s3
MinIo 的操作与使用官方 API 文档:Documentation 官方中文文档:MinIO中文文档Java 代码:Maven 引入: