三种常用的数据存储技术

数据存储技术

  • 当今最主流、最常用的数据存数技术有MySQL、SQLite、Redis,他们三者各有不同的长处,用途也不同,可以互相配合使用,对比如下
MySQL(存中心) SQLite(存本地) Redis(存缓存)
本质 数据存在独立的服务进程中,程序通过网络发命令进行读写 数据直接存储在文件中,程序可直接读写 数据存储在服务器的内存里,重启可能会丢失数据,但是读取速度很快
运行模式 客户端-服务端(C/S) C/S 直接嵌在程序内部
数据模型 表格+行 表格+行 K-V键值对存储
部署方式 需要设置账户、权限、端口等 简单,直接复制.db文件 不需要进行多用户账号的管理,只需要关注内存上限控制、内存淘汰规则、数据持久化方案
读写速度 较慢,需要网络传输与TCP握手,连接池也有损耗 快,无网络开销 快,直接在内存中进行读取
并发写入 强,支持多版本并发控制 弱,多线程写入会阻塞 强,单线程原子操作
并发读取
数据容量 极大 理论上极大,但是太大会影响性能 受限于内存大小
持久化 持久,且支持崩溃后修复 持久,直接写入在硬盘里 默认非持久,但可以通过方案解决
  • 主要用途:

    • MySQL:用在Web网站、账户管理等不能接收丢失的地方,不适用与数据结构简单且要求响应速度极快的场景
    • SQLite:AI agent本地记忆、手机APP数据、桌面软件等,不适用于Web这种需要高并发的场景
    • Redis:适用于缓存层、会话/登录状态存储、消息队列等,不适用于数据量大、数据丢失后果严重的场景
  • 相互配合使用案例:

    在进行agent开发时,前台agent接收到用户请求后分解任务,把不同的任务模块放在对应的专属Redis队列中,对应的Sub-agent从Redis中拿到任务后再执行任务,在执行的过程中把得到的临时结果都放在自己的SQLite中,最后由主agent进行审核,通过后将所有数据汇总并存入到MySQL中,方便用户后续的查找

相关推荐
老纪的技术唠嗑局7 小时前
超级干货分享:中小企业使用 OceanBase 实践经验汇总
数据库
CLOUD ACE8 小时前
谷歌云代理|零售商Target 如何利用 Spanner Graph 提升零售发现体验并将数据库维护成本降低 50%
数据库·零售
少晓年8 小时前
从 MySQL 迁移到人大金仓 KingbaseES:完整指南与实践
数据库·mysql
SelectDB9 小时前
Apache Doris AI RAG 实战:从基础 RAG 到知识图谱增强的技术能力与选型
数据库
SelectDB9 小时前
电商企业 PostgreSQL 迁移 Apache Doris:80TB 分析数据统一平台技术能力与实践
数据库
SelectDB9 小时前
阶跃星辰 Agent 可观测:Apache Doris / SelectDB 的技术能力与实践
数据库
SelectDB9 小时前
ApacheDoris Iceberg V3 湖仓 DML:Apache Doris / SelectDB 的技术能力与实践
数据库
SelectDB9 小时前
ApacheDoris Python UDF:SQL 调用 Python 的技术能力、选型对比与实践
数据库
Crazy________10 小时前
Redis03:持久化存储,大key分析,主从复制及哨兵模式
数据库·redis·容器
Zhu75810 小时前
使用helm在k8s集群部署MySQL单实例,支持当前所有主版本的最新子版本
mysql·adb·kubernetes