SQL分库分表

一、介绍

  • 问题分析

随着互联网及移动互联网的发展,应用系统的数据量也是成指数式增长,若采用单数据库进行数据存储,存在以下性能瓶颈:

  1. IO瓶颈:热点数据太多,数据库缓存不足,产生大量磁盘IO,效率较低。请求数据太多,带宽不够,网络10瓶颈。

2.CPU瓶颈:排序、分组、连接查询、聚合统计等SQL会耗费大量的CPU资源,请求数太多,CPU出现瓶颈。

分库分表的中心思想都是将数据分散存储,使得单一数据库/表的数据量变小来缓解单一数据库的性能问题,从而达到提升数据库性能的目的。

  • 拆分策略

垂直分库:以表为依据,根据业务将不同表拆分到不同库中。

特点:

1.每个库的表结构都不一样。

2.每个库的数据也不一样。

3.所有库的并集是全量数据。

垂直分表:以字段为依据,根据字段属性将不同字段拆分到不同表中

特点:

1.每个表的结构都不一样。

2.每个表的数据也不一样,一般通过一列(主键/外键)关联。

3.所有表的并集是全量数据。

水平分库:以字段为依据,按照一定策略,将一个库的数据拆分到多个库中。

特点:

1.每个库的表结构都一样。

2.每个库的数据都不一样。

  1. 所有库的并集是全量数据。

水平分表:以字段为依据,按照一定的策略,将一个表的数据拆分到多个表中。

特点:

  1. 每个表的表结构都一样。

  2. 每个表的数据都不一样。

  3. 所有表的并集是全量数据。

  • 实现技术

shardingJDBC:基于AOP原理,在应用程序中对本地执行的SQL进行拦截,解析、改写、路由处理。需要自行编码配置实现,只支持java语言,性能较高。

MyCat:数据库分库分表中间件,不用调整代码即可实现分库分表,支持多种语言,性能不及前者。


二、Mycat概述

  • 介绍

Mycat是开源的、活跃的、基于java语言编写的MySQL数据库中间件。可以像使用mysql一样来使用mycat,对于开发人员来说根本感觉不到mycat的存在。

优势:

性能可靠稳定、强大的技术团队、体系完善、社区活跃。

  • 下载

下载地址:http://dl.mycat.org.cn/

  • 安装

Mycat是采用java语言开发的开源的数据库中间件,支持Windows和Linux运行环境,下面介绍MyCat的Linux中的环境搭建。我们需要在准备好的服务器中安装如下软件。

· MySQL

· JDK

· Mycat

  • 概念介绍

三、Mycat入门

  • 需求

由于 tb_order 表中数据量很大,磁盘IO及容量都到达了瓶颈,现在需要对tborder表进行数据分片,分为三个数据节点、每一个节点主机位于不同的服务器上,具体的结构,参考下图:

  • 环境准备
  • 分片配置(schema.xml)
相关推荐
英英_几秒前
视频爬虫的Python库
开发语言·python·音视频
猛犸MAMMOTH5 分钟前
Python打卡第46天
开发语言·python·机器学习
多多*31 分钟前
微服务网关SpringCloudGateway+SaToken鉴权
linux·开发语言·redis·python·sql·log4j·bootstrap
梓仁沐白31 分钟前
【Kotlin】协程
开发语言·python·kotlin
文牧之34 分钟前
PostgreSQL 的扩展pg_freespacemap
运维·数据库·postgresql
写bug写bug40 分钟前
如何正确地对接口进行防御式编程
java·后端·代码规范
Cyanto1 小时前
Java并发编程面试题
java·开发语言·面试
deriva1 小时前
某水表量每15分钟一报,然后某天示数清0了,重新报示值了 ,如何写sql 计算每日水量
数据库·sql
海的诗篇_1 小时前
前端开发面试题总结-JavaScript篇(一)
开发语言·前端·javascript·学习·面试
在未来等你1 小时前
互联网大厂Java求职面试:AI大模型与云原生技术的深度融合
java·云原生·kubernetes·生成式ai·向量数据库·ai大模型·面试场景