存储的基本架构

提示:文章写完后,目录可以自动生成,如何生成可参考右边的帮助文档

文章目录

一、存储的需求背景

1、人的身份信息需要存储

这种信息可以用关系型数据库,例如mysql,那种表格类型关系型都可以用mysql

2、图片存储

fastdfs等等架构可以去实现

3、博客文档存储

4、视频存储

5、AIGC问答类的存储

还有我们的其他数据

综上,存储是计算机领域的一个很大的主题

其中比较重要的层级体系包括:spdk,ceph,Rocksdb,NVMe,EXT4,Tidb

二、自下而上存储架构

1、介质层

2、接口协议层

3、驱动层

相当于对硬件做了一部分抽象

4、文件系统

5、系统调用层

vfs协议,有关读写操作都在这一层级

6、应用层

fastdfs,ceph,samba、mysql,rockdb,tidb

那么我们的spdk是属于哪一层呢,它的作用在于跨内核,跨内存拷贝做的一个桥梁。文件系统可以直接在spdk里边去实现,所以不用跨态去搞传输。

还有就是关于fuse这一层,这一层呢,在执行读写操作的时候可用于对文件的加水印等操作。尤其是在下载某个文件的时候会直接给你打上专属的水印,这个玩意可用于防盗的操作。

以服务器为例,服务器运行的时候会去记录日志,为了能够记录发生的问题,会存储到集中式的存储里边去。这个日志的存储,先要落盘,再通过fuse,fuse去跟踪监测这个对应的日志文件是否有修改,再把这个文件同步到集中式的文件系统上边去。这样就能构建出一个分布式文件系统。

关于数据中心的同步,在两端服务器中间会有一个层叫做rdma,rdma是cpu参与的网络远程一种协议。

关于介质层与上层之间会有一种有线的协议去交互,比如说

总结

关于存储,一直是计算机领域的庞大体系,需要持续的学习。

相关推荐
DBA_G10 分钟前
南大通用GBase 8c数据库-两阶段提交事务状态保持讲解(下)
数据库
NineData11 分钟前
MySQL 到 Doris 实时数据同步:订单、用户和日志数据入仓方案
数据库·mysql
JuiceFS15 分钟前
地平线 EB 级存储工程实践
人工智能·后端·自动驾驶
Escalating_xu21 分钟前
【Linux 网络编程】网络基础概念(下):IP、端口、Socket 与网络字节序,写代码前先打好基础
linux·网络·tcp/ip
网络小江28 分钟前
上网第五十二课:加密隧道与拨号专网——安全接入的通俗解释
网络协议
小小AK32 分钟前
采购订单同步策略实战:金蝶云星空到旺店通的字段映射与调度设计
大数据·数据库
前端 贾公子1 小时前
LangGraph == 图的状态(State)管理 (中)
开发语言·数据库·python
一条小小yu1 小时前
Text-to-SQL Agent
数据库·sql
霸道流氓气质1 小时前
LLM API密钥管理与轮换策略:Spring Vault动态密钥、熔断限流协同与多Provider路由的 Java 生产级实现
java·后端·spring
凤山老林1 小时前
Spring Boot 集成 Redis Stream 做可靠消息队列:持久化、消费组重组与流式处理实战
spring boot·redis·后端