redis高可用之主从复制、哨兵以及Cluster集群

爱喝鱼片汤2024-07-24 8:48

目录

一、Redis主从复制

1）主从复制的作用

2）主从复制流程

3）搭建Redis主从复制

1、部署redis服务器

2、修改Redis配置文件（所有节点操作）

3、验证主从复制结果

二、哨兵模式

1）哨兵的作用

2）哨兵结构的组成

3）哨兵故障转移机制​编辑

4）主节点的选举

5）搭建Redis哨兵模式

1、设置Redis哨兵模式配置文件的属组以及属主（master服务器）

2、修改Redis哨兵模式的配置文件（所有节点）

3、master节点开启哨兵模式后slave节点开启哨兵模式，查看哨兵状态

4、关闭主节点进程，模拟故障切换

三、redis集群模式

1）集群的作用

2）Redis集群的数据分片【※】

[3） Redis集群的主从复制模型](#3） Redis集群的主从复制模型)

4）搭建Redis群集模式

1、部署6台redis

2、所有节点修改配置文件、创建集群

3、登录查看集群信息

4、集群测试

5、动态扩容

一、Redis主从复制

主从复制，是指将一台Redis服务器的数据，复制到其他的Redis服务器。前者称为主节点(Master)，后者称为从节点(Slave)；数据的复制是单向的，只能由主节点到从节点。默认情况下，每台Redis服务器都是主节点；且一个主节点可以有多个从节点(或没有从节点)，但一个从节点只能有一个主节点。

1）主从复制的作用

  • 数据冗余：主从复制实现了数据的热备份，是持久化之外的一种数据冗余方式。
  • 故障恢复：当主节点出现问题时，可以由从节点提供服务，实现快速的故障恢复，实际上是一种服务的冗余。主从复制进行故障恢复需要手动完成。
  • 负载均衡：在主从复制的基础上，配合读写分离，可以由主节点提供写服务，由从节点提供读服务（即写Redis数据时，应用连接主节点；读Redis数据时，应用连接从节点），分担服务器负载；尤其是在写少读多的场景下，通过多个从节点分担读负载，可以大大提高Redis服务器的并发量。
  • 高可用基石：除了上述作用以外，主从复制还是哨兵和集群能够实施的基础，因此说主从复制是Redis高可用的基础。

2）主从复制流程

  1. 首次同步：当从节点要进行主从复制时，它会发送一个SYNC命令给主节点。主节点收到SYNC命令后，会执行BGSAVE命令来生成RDB快照文件，并在生成期间使用缓冲区记录所有写操作。
  2. 快照传输：当主节点完成BGSAVE命令并且快照文件准备好后，将快照文件传输给从节点。主节点将快照文件发送给从节点，并且在发送过程中，主节点会继续将新的写操作缓冲到内存中。
  3. 追赶复制：当从节点收到快照文件后，会加载快照文件并应用到自己的数据集中。一旦快照文件被加载，从节点会向主节点发送一个PSYNC命令，以便获取缓冲区中未发送的写操作。
  4. 增量复制：主节点收到PSYNC命令后，会将缓冲区中未发送的写操作发送给从节点，从节点会执行这些写操作，保证与主节点的数据一致性。此时，从节点已经追赶上了主节点的状态。
  5. 同步：从节点会继续监听主节点的命令，并及时执行主节点的写操作，以保持与主节点的数据同步。主节点会定期将自己的操作发送给从节点，以便从节点保持最新的数据状态.

注意:当slave首次同步或者宕机后恢复时，会全盘加载，以追赶上大部队，即全量复制。

3）搭建Redis主从复制

准备三台redis服务器；192.168.170.200 master；192.168.170.100 slave1；192.168.170.101 slave2

1、部署redis服务器
bash 复制代码 
//环境准备
systemctl stop firewalld
systemctl disable firewalld
setenforce 0
sed -i 's/enforcing/disabled/' /etc/selinux/config

#修改内核参数
vim /etc/sysctl.conf
vm.overcommit_memory = 1
net.core.somaxconn = 2048
#刷新生效
sysctl -p


//安装redis
#上传tar.gz格式的redis软件包后解压编译
yum install -y gcc gcc-c++ make
tar zxvf /opt/redis-7.0.9.tar.gz -C /opt/
cd /opt/redis-7.0.9
make
make PREFIX=/usr/local/redis install
#由于Redis源码包中直接提供了 Makefile 文件，所以在解压完软件包后，不用先执行 ./configure 进行配置，可直接执行 make 与 make install 命令进行安装。

#创建redis工作目录和用户
mkdir /usr/local/redis/{conf,log,data}

cp /opt/redis-7.0.9/redis.conf /usr/local/redis/conf/

useradd -M -s /sbin/nologin redis
chown -R redis.redis /usr/local/redis/

#环境变量
vim /etc/profile 
PATH=$PATH:/usr/local/redis/bin		#增加一行

source /etc/profile


//定义systemd服务管理脚本
vim /usr/lib/systemd/system/redis-server.service
[Unit]
Description=Redis Server
After=network.target

[Service]
User=redis
Group=redis
Type=forking
TimeoutSec=0
PIDFile=/usr/local/redis/log/redis_6379.pid
ExecStart=/usr/local/redis/bin/redis-server /usr/local/redis/conf/redis.conf
ExecReload=/bin/kill -s HUP $MAINPID
ExecStop=/bin/kill -s QUIT $MAINPID
PrivateTmp=true

[Install]
WantedBy=multi-user.target
2、修改Redis配置文件（所有节点操作）
bash 复制代码 
//master节点
vim /usr/local/redis/conf/redis.conf
bind 0.0.0.0									#87行，修改监听地址为0.0.0.0任意地址或者127.0.0.1和本机地址
protected-mode no								#111行，将本机访问保护模式设置no
port 6379										#138行，Redis默认的监听6379端口
tcp-backlog 20480                               #147行，修改参数为20480
timeout 0                                       #159行，长连接超时，可以自行设置，防止没有任何操作的客户端一致挂在服务器上
daemonize yes									#309行，设置为守护进程，后台启动
pidfile /usr/local/redis/log/redis_6379.pid		#341行，指定 PID 文件
logfile "/usr/local/redis/log/redis_6379.log"	#354行，指定日志文件
dir /usr/local/redis/data						#504行，指定持久化文件所在目录
#requirepass 123456								#1037行，可选，设置redis密码
appendonly yes									#1380行，开启AOF
#masterauth 123456								#535行，可选，指定Master节点的密码，在Master节点设置requirepass时，此处才需要设置密码

启动redis
systemctl restart redis-server.service
netstat -lntp | grep 6379

//slave节点
vim /usr/local/redis/conf/redis.conf
replicaof 192.168.170.200 6379                 #528行，指定要同步的Master节点IP和端口

启动redis
systemctl restart redis-server.service
netstat -lntp | grep 6379
3、验证主从复制结果
bash 复制代码 
redis-cli -h ip -p 6379 -a '123456'
info replication

通过master节点的日志分析主从复制的工作流程

bash 复制代码 
[root@master conf]# cd /usr/local/redis/log/
[root@master log]# ls
redis_6379.log  redis_6379.pid
[root@master log]# vim redis_6379.log

二、哨兵模式

主从切换技术的方法是：当服务器宕机后，需要手动一台从机切换为主机，这需要人工干预，不仅费时费力而且还会造成一段时间内服务不可用。为了解决主从复制的缺点，就有了哨兵机制。哨兵的核心功能：在主从复制的基础上，哨兵引入了主节点的自动故障转移。

1）哨兵的作用

  • 监控：哨兵会不断地检查主节点和从节点是否运作正常。
  • 自动故障转移：当主节点不能正常工作时，哨兵会开始自动故障转移操作，它会将失效主节点的其中一个从节点升级为新的主节点，并让其它从节点改为复制新的主节点。
  • 通知（提醒）：哨兵可以将故障转移的结果发送给客户端。

2）哨兵结构的组成

哨兵节点 ：哨兵系统由一个或多个哨兵节点组成，哨兵节点是特殊的redis节点，不存储数据。
数据节点：主节点和从节点都是数据节点。

3）哨兵故障转移机制

1、由哨兵节点定期监控发现主节点是否出现了故障,每个哨兵节点每隔1秒会向主节点、从节点及其它哨兵节点发送一次ping命令做一次心跳检测。如果主节点在一定时间范围内不回复或者是回复一个错误消息，那么这个哨兵就会单方面的认为这个主节点下线了（是不是真的下线它不管）。当超过半数哨兵节点认为该主节点主观下线了，这样就客观下线了。

2、当主节点出现故障，此时哨兵节点会通过Raft算法（选举算法），实现选举机制共同选举出一个哨兵节点为leader，来负责处理主节点的故障转移和通知。所以整个运行哨兵的集群的数量不得少于3个节点（奇数个）。

3、由leader哨兵节点执行故障转移，过程如下：

将某一个从节点升级为新的主节点，让其它从节点指向新的主节点；

原主节点恢复也变成从节点，并指向新的主节点；

通知客户端主节点已经更换。
需要特别注意的是，客观下线是主节点才有的概念；如果从节点和哨兵节点发生故障，被哨兵主观下线后，不会再有后续的客观下线和故障转移操作。

4）主节点的选举

（1）过滤掉不健康的（已下线的），没有回复哨兵ping响应的从节点。

（2）选择配置文件中从节点优先级配置最高的 。（replica-priority，默认值为100）

（3）选择复制偏移量最大，也就是复制最完整的从节点。

5）搭建Redis哨兵模式

**注意：哨兵节点既可以单独部署，也可以和数据节点部署在一台服务器上，视服务器的数量而定。**哨兵的启动依赖于主从模式，所以须把主从模式安装好的情况下再去做哨兵模式.。

沿用主从复制的三台redis服务器；192.168.170.200 master；192.168.170.100 slave1；192.168.170.101 slave2，vip为192.168.170.99

1、设置Redis哨兵模式配置文件的属组以及属主（master服务器）

bash 复制代码 
cp /opt/redis-7.0.13/sentinel.conf /usr/local/redis/conf/
chown redis:redis /usr/local/redis/conf/sentinel.conf

2、修改Redis哨兵模式的配置文件（所有节点）

bash 复制代码 
vim /usr/local/redis/conf/sentinel.conf
protected-mode no									#6行，关闭保护模式
port 26379											#10行，Redis哨兵默认的监听端口
daemonize yes										#15行，指定sentinel为后台启动
pidfile /usr/local/redis/log/redis-sentinel.pid		#20行，指定PID文件
logfile "/usr/local/redis/log/sentinel.log"			#25行，指定日志存放路径
dir /usr/local/redis/data							#54行，指定数据库存放路径
sentinel monitor mymaster 192.168.170.200 6379 2		#73行，修改指定该哨兵节点监控192.168.170.200 6379端口这个主节点，该主节点的名称是mymaster，最后的2的含义与主节点的故障判定有关：至少半数哨兵节点同意，才能判定主节点故障并进行故障转移
#sentinel auth-pass mymaster 123456					    #76行，可选，指定Master节点的密码，仅在Master节点设置了requirepass
sentinel down-after-milliseconds mymaster 3000		#114行，判定服务器down掉的时间周期，默认30000毫秒（30秒）
sentinel failover-timeout mymaster 180000			#214行，同一个sentinel对同一个master两次failover之间的间隔时间（180秒）
sentinel client-reconfig-script mymaster /usr/local/redis/conf/master_ip_failover.sh   #278行，指定故障漂移脚本路劲
-------------------------------------------------------------------------------------------
cd /usr/local/redis/conf
vim master_ip_failover.sh     #编写故障漂移脚本
-----
#!/bin/bash
#新master的ip
MASTER_IP=$6
#当前主机的ip
LOCAL_IP=$(ifconfig | awk 'NR==2 {print $2}')
 
VIP='192.168.9.99'
 
if [ "$MASTER_IP" == "$LOCAL_IP" ];then
    ifconfig ens33:1 $VIP/24
    exit 0
else
    ifconfig ens33:1 $VIP/24 down
    exit 0
fi
exit 1
-----
chmod +x master_ip_failover.sh  #给予可执行权限
systemctl restart redis-server.service
bash 复制代码 
#master服务器
ifconfig ens33:1 192.168.170.99/24

3、master节点开启哨兵模式后slave节点开启哨兵模式，查看哨兵状态

bash 复制代码 
redis-sentinel sentinel.conf &
netstat -lntp | grep 26379
bash 复制代码 
redis-cli -h 192.168.170.200 -p 26379   #没有设置密码
info sentinel

报错

明明配置了三个sentinel，但是这里显示的却是4，有的可能是1，基本都是配置文件有问题，我们要检查一下这几个地方：

1.主节点redis.conf的masterauth是否配置，从节点redis.conf的requirepass是否配置

2.哨兵sentinel.conf配置文件底部的sentinel myid 是否有相同，有相同则关闭哨兵进程再将文件中此行删除，重启会重新生成。关闭命令：kill -s term 进程号

3.在较新的redis里提供的sentinel.conf模板文件中，有sentinel-announce-ip和sentinel-announce-port，请记住，这里我们配置的时当前文件所属的哨兵的ip和端口。我就是犯了这个低级错误，写成了主节点的ip和端口

哨兵数量与实际不符合怎么解决？

4、关闭主节点进程，模拟故障切换

master服务器关闭redis，打开slave服务器日志脚本进行监控

三、redis集群模式

Redis群集模式即Redis Cluster，是Redis 3.0开始引入的分布式存储方案。

集群由多组节点(Node)组成，Redis的数据分布在这些节点中。集群中的节点分为主节点和从节点：只有主节点负责读写请求和集群信息的维护；从节点只进行主节点数据和状态信息的复制。

集群将数据分散到多组节点，一方面突破了Redis单机内存大小的限制，存储容量大大增加；另一方面每个主节点都可以对外提供读服务和写服务，大大提高了集群的响应能力。Redis单机内存大小受限问题，在介绍持久化和主从复制时都有提及；例如，如果单机内存太大，bgsave和bgrewriteaof的fork操作可能导致主进程阻塞，主从环境下主机切换时可能导致从节点长时间无法提供服务，全量复制阶段主节点的复制缓冲区可能溢出。redis内存并不是越大越好

1）集群的作用

高可用：集群支持主从复制和主节点的自动故障转移（与哨兵类似）；当任一节点发生故障时，集群仍然可以对外提供服务。

数据分区：数据分区(或称数据分片)是集群最核心的功能。

2）Redis集群的数据分片【※】

  • Redis集群引入了哈希槽的概念
  • Redis集群有16384个哈希槽（编号0-16383）
  • 集群的每组节点负责一部分哈希槽
  • 每个Key通过CRC16校验后对16384取余来决定放置哪个哈希槽，通过这个值，去找到对应的插槽所对应的节点，然后直接自动跳转到这个对应的节点上进行存取操作

以3个节点组成的集群为例：

节点A包含0到5460号哈希槽

节点B包含5461到10922号哈希槽

节点C包含10923到16383号哈希槽

3） Redis集群的主从复制模型

集群中具有A、B、C三个节点，如果节点B失败了，整个集群就会因缺少5461-10922这个范围的槽而不可以用。为每个节点添加一个从节点A1、B1、C1整个集群便有三个Master节点和三个slave节点组成，在节点B失败后，集群选举B1为新的主节点继续服务。当B和B1都失败后，集群将不可用。

4）搭建Redis群集模式

|---------------------|---------------|
| 主库 | 从库 |
| 192.168.170.200 | 192.168.170.5 |
| 192.168.170. | 192.168.170.6 |
| 192.168.170. | 192.168.170.7 |

1、部署6台redis

bash 复制代码 
//初始化
systemctl stop firewalld
systemctl disable firewalld
setenforce 0
vim /etc/selinux/config
    --->SELINUX=disabled

//配置内核参数添加配置
vim /etc/sysctl.conf
----------------------------------------------
vm.overcommit_memory = 1                     #内核允许超量使用内存直到用完为止，防止OOM杀死进程
net.core.somaxconn = 20480                    #指定处于监听状态的连接请求队列的最大长度
 
sysctl -p   #加载

//安装依赖包、安装redis
yum install -y gcc gcc-c++ make
cd /opt
rz -E
#redis-7.0.13.tar.gz
tar xf /opt/redis-7.0.13.tar.gz 
cd /opt/redis-7.0.13
make
make PREFIX=/usr/local/redis install
#由于Redis源码包中直接提供了Makefile文件，所以在解压完软件包后，不用先执行./configure行配置，可直接执行make与make install命令进行安装

//创建redis的工作目录并创建redis程序用户，将redis程序执行文件加入到系统环境变量中
cd /usr/local/redis
mkdir conf log data
cd /opt/redis-7.0.13/
cp redis.conf /usr/local/redis/conf/
useradd -M -s /sbin/nologin redis
chown -R redis:redis /usr/local/redis
vim /etc/profile
   ---> export PATH=$PATH:/usr/local/redis/bin
source /etc/profile

//修改redis.conf配置文件
vim /usr/local/redis/conf/redis.conf
bind 192.168.170.200				            #87行，添加监听的主机地址
protected-mode no					            #111行，将本机访问保护模式设置no。如果开启了，那么在没有设定bind ip且没有设密码的情况下，Redis只允许接受本机的响应
port 6379										#138行，Redis默认的监听6379端口
tcp-backlog 20480                               #147行，修改参数为20480，与内核参数一致
daemonize yes									#309行，设置为守护进程，后台启动
pidfile /usr/local/redis/log/redis_6379.pid		#341行，指定PID文件
logfile "/usr/local/redis/log/redis_6379.log"	#354行，指定日志文件
dir /usr/local/redis/data						#504行，指定持久化文件所在目录
requirepass 123456	

//定义systemd服务管理脚本
cd /usr/lib/systemd/system
vim redis-server.service
-----------------------------------------------------------------------------
[Unit]
Description=Redis Server
After=network.target
 
[Service]
User=redis
Group=redis
Type=forking
TimeoutSec=0
PIDFile=/usr/local/redis/log/redis_6379.pid
ExecStart=/usr/local/redis/bin/redis-server /usr/local/redis/conf/redis.conf
ExecReload=/bin/kill -s HUP $MAINPID
ExecStop=/bin/kill -s QUIT $MAINPID
PrivateTmp=true
 
[Install]
WantedBy=multi-user.target
 
---------------------------------------------------------------------------------
systemctl daemon-reload
systemctl start redis-server.service
systemctl enable redis-server.service
netstat -lntp | grep 6379

2、所有节点修改配置文件、创建集群

bash 复制代码 
cp /opt/redis-7.0.13/redis.conf /usr/local/redis/conf/
/usr/local/redis/conf
vim redis.conf
-------------------------------------------------------------------------------------
bind 0.0.0.0  #87行
protected-mode no  #第111行关闭保护模式
daemonize yes   #309行后台运行打开
pidfile /usr/local/redis/log/redis_6379.pid   #341行pid文件路径
logfile "/usr/local/redis/log/redis_6379.log"    #354日志文件路径
dir /usr/local/redis/data #504行
appendonly yes    #1379aof持久化打开
cluster-enabled yes   #1576打开注释
cluster-config-file nodes-6379.conf   #1584集群配置文件打开注释
cluster-node-timeout 15000     #1590打开注释
-------------------------------------------------------------------------------------
systemctl restart redis-server.service   ####重启所有服务器

//创建集群
redis-cli --cluster create 192.168.170.200:6379 192.168.170.100:6379 192.168.170.101:6379 192.168.170.5:6379 192.168.170.6:6379 192.168.170.70:6379 --cluster-replicas 1

3、登录查看集群信息

bash 复制代码 
redis-cli -h 192.168.170.200 -p 6379 -c        #加-c参数，节点之间就可以互相跳转
    cluster slots			         #查看节点的哈希槽编号范围
    set name zhangsan                #创建键和值
    cluster keyslot name			 #查看name键的槽编号

4、集群测试

5、动态扩容

增加两台无redis服务器：192.168.9.210；192.168.9.120

① 集群master节点服务器进行复制操作

bash 复制代码 
启动文件复制到新添加的服务器中
cd /usr/local/redis/conf
scp redis.conf 192.168.170.120:`pwd`
scp redis.conf 192.168.170.210:`pwd`

cd /usr/lib/systemd/system
scp redis-server.service 192.168.170.210:`pwd`
scp redis-server.service 192.168.170.120:`pwd`

scp -rp redis/ 192.168.170.210:/usr/local
scp -rp redis/ 192.168.170.120:/usr/local

scp redis.conf 192.168.170.210:`pwd`
scp redis.conf 192.168.170.120:`pwd`

cd /usr/lib/systemd/system
scp redis-server.service 192.168.170.210:`pwd`
scp redis-server.service 192.168.170.120:`pwd`

② 两台新服务器操作

bash 复制代码 
初始化操作
systemctl disable --now firewalld
vim /etc/sysctl.conf
-------------------------------------------------------------------------------
vm.overcommit_memory = 1
net.core.somaxconn = 20480
-------------------------------------------------------------------------------
sysctl -p

创建用户，准备空目录
useradd -M -s /sbin/nologin redis
rm -rf conf/*
rm -rf log/*
rm -rf data/*
chown -R redis:redis /usr/local/redis

启动服务
systemctl enable --now redis-server.service  
vim /etc/profile
export PATH=$PATH:/usr/local/redis/bin
source /etc/profile

③ 集群master节点服务器配置将两台服务器加入集群

bash 复制代码 
redis-cli -h 192.168.170.140 -p 6379
cluster meet 192.168.170.210 6379
cluster meet 192.168.170.120 6379

④ 192.168.170.120对192.168.170.210对接做主从复制

bash 复制代码 
redis-cli -h 192.168.170.120 -p 6379
cluster replicate 0f3ffa68ab18469feb2d135313b6d141b15a998f

⑤ master节点查询是否连接成功

bash 复制代码 
cluster nodes

⑥为新添加的服务器分配hash槽

相关推荐
The_Ticker7 分钟前
CFD平台如何接入实时行情源
java·大数据·数据库·人工智能·算法·区块链·软件工程
Elastic 中国社区官方博客13 分钟前
Elasticsearch 开放推理 API 增加了对 IBM watsonx.ai Slate 嵌入模型的支持
大数据·数据库·人工智能·elasticsearch·搜索引擎·ai·全文检索
企鹅侠客18 分钟前
ETCD调优
数据库·etcd
Json_1817901448024 分钟前
电商拍立淘按图搜索API接口系列，文档说明参考
前端·数据库
煎饼小狗35 分钟前
Redis五大基本类型——Zset有序集合命令详解（命令用法详解+思维导图详解）
数据库·redis·缓存
永乐春秋1 小时前
WEB-通用漏洞&SQL注入&CTF&二次&堆叠&DNS带外
数据库·sql
打鱼又晒网1 小时前
【MySQL】数据库精细化讲解：内置函数知识穿透与深度学习解析
数据库·mysql
大白要努力！2 小时前
android 使用SQLiteOpenHelper 如何优化数据库的性能
android·数据库·oracle
tatasix2 小时前
MySQL UPDATE语句执行链路解析
数据库·mysql
秋意钟2 小时前
缓存雪崩、缓存穿透【Redis】
redis
热门推荐
01(欧拉)openEuler系统添加网卡文件配置流程、(欧拉)openEuler系统手动配置ipv6地址流程、(欧拉)openEuler系统网络管理说明02PyTorch机器学习实现液态神经网络03【HarmonyOS】HUAWEI DevEco Studio 下载地址汇总04玄机平台应急响应—webshell查杀05Coze扣子平台完整体验和实践（附国内和国际版对比）06Ubuntu 20.04使用Livox mid 360 测试 FAST_LIO07【目标跟踪】相机运动补偿08Unity中PICO实现 隔空取物 和 接触抓取物体09RAG 实践- Ollama+RagFlow 部署本地知识库10怎样让音频速度变慢？请跟随以下方法进行操作