redis分片集群的部署和使用
-
- 使用docker在虚拟机部署
- [SpringBoot 整合redis集群](#SpringBoot 整合redis集群)
- redis分片集群一些须知
使用docker在虚拟机部署
脚本是个好东西。使用脚本部署那是相当的快速。下面介绍一下我使用脚本+docker部署的步骤吧。
- 首先拉取镜像,至少是可以分片的版本。
shell
pull images redis:5.0.9-alpine3.11
- 选取一个工作目录创建一个redis配置文件的模板文件(redis-cluster.tmpl )
shell
port ${PORT}
cluster-enabled yes
cluster-config-file nodes.conf
cluster-node-timeout 5000
cluster-announce-ip 你的虚拟机IP
cluster-announce-port ${PORT}
cluster-announce-bus-port 1${PORT}
appendonly yes
- 使用脚本批量创建目录和配置文件 init.sh
shell
#!/bin/bash
for port in $(seq 8001 8006);
do
mkdir -p ./${port}/conf
PORT=${port} envsubst < ./redis/redis-cluster.tmpl > ./${port}/conf/redis.conf
mkdir -p ./${port}/data;
done
- 给脚本权限并运行脚本
shell
chmod +x init.sh
./init.sh
- 创建docker-compose.yml文件
这里redis对应的版本按照自己拉取的改一下。
yaml
version: '3.8'
services:
redis-8001:
image: redis:latest
container_name: redis-8001
ports:
- "8001:8001"
- "18001:18001"
volumes:
- ./8001/conf/redis.conf:/usr/local/etc/redis/redis.conf
- ./8001/data:/data
command: redis-server /usr/local/etc/redis/redis.conf
networks:
- redis-cluster-net
redis-8002:
image: redis:latest
container_name: redis-8002
ports:
- "8002:8002"
- "18002:18002"
volumes:
- ./8002/conf/redis.conf:/usr/local/etc/redis/redis.conf
- ./8002/data:/data
command: redis-server /usr/local/etc/redis/redis.conf
networks:
- redis-cluster-net
redis-8003:
image: redis:latest
container_name: redis-8003
ports:
- "8003:8003"
- "18003:18003"
volumes:
- ./8003/conf/redis.conf:/usr/local/etc/redis/redis.conf
- ./8003/data:/data
command: redis-server /usr/local/etc/redis/redis.conf
networks:
- redis-cluster-net
redis-8004:
image: redis:latest
container_name: redis-8004
ports:
- "8004:8004"
- "18004:18004"
volumes:
- ./8004/conf/redis.conf:/usr/local/etc/redis/redis.conf
- ./8004/data:/data
command: redis-server /usr/local/etc/redis/redis.conf
networks:
- redis-cluster-net
redis-8005:
image: redis:latest
container_name: redis-8005
ports:
- "8005:8005"
- "18005:18005"
volumes:
- ./8005/conf/redis.conf:/usr/local/etc/redis/redis.conf
- ./8005/data:/data
command: redis-server /usr/local/etc/redis/redis.conf
networks:
- redis-cluster-net
redis-8006:
image: redis:latest
container_name: redis-8006
ports:
- "8006:8006"
- "18006:18006"
volumes:
- ./8006/conf/redis.conf:/usr/local/etc/redis/redis.conf
- ./8006/data:/data
command: redis-server /usr/local/etc/redis/redis.conf
networks:
- redis-cluster-net
networks:
redis-cluster-net:
driver: bridge
- 在创建dcoker-compose.yml对应的目录下执行该文件
shell
docker compose up -d
- 随便进入一个容器内部搭建分片集群
shell
docker exec -it reids-8001 redis-cli --cluster create \
192.168.59.128:8001 \
192.168.59.128:8002 \
192.168.59.128:8003\
192.168.59.128:8004 \
192.168.59.128:8005 \
192.168.59.128:8006 \
--cluster-replicas 1 // 副本数量·1 前三个节点成为主节点,后面三个节点成为从节点
至此大功告成。
SpringBoot 整合redis集群
- 导入依赖
xml
<dependency>
<groupId>org.springframework.boot</groupId>
<artifactId>spring-boot-starter-data-redis</artifactId>
</dependency>
<dependency>
<groupId>org.apache.commons</groupId>
<artifactId>commons-pool2</artifactId>
</dependency>
- 配置yml
yaml
spring:
data:
redis:
# 集群节点配置:填写你的虚拟机IP和端口
cluster:
nodes:
- 192.168.59.128:8001
- 192.168.59.128:8002
- 192.168.59.128:8003
- 192.168.59.128:8004
- 192.168.59.128:8005
# 最大重定向次数
max-redirects: 3
# 连接超时时间
timeout: 3000ms
# Lettuce连接池配置 (可选但推荐)
lettuce:
pool:
max-active: 8
max-idle: 8
min-idle: 0
max-wait: -1ms
- 配置读写分离
java
@Configuration
public class RedisConfig {
@Bean
public LettuceClientConfigurationBuilderCustomizer clientConfigurationBuilderCustomizer() {
return clientConfigurationBuilder -> clientConfigurationBuilder
.readFrom(ReadFrom.REPLICA_PREFERRED); // 优先从从节点读取
}
}
可选取的读写分离政策:
- ReadFrom.MASTER // 只从主节点读取(强一致性)
- ReadFrom.MASTER_PREFERRED // 优先从主节点读取
- ReadFrom.REPLICA // 只从从节点读取
- ReadFrom.REPLICA_PREFERRED // 优先从从节点读取(推荐)
- ReadFrom.NEAREST // 从最近的节点读取
- ReadFrom.ANY // 从任意节点读取
redis分片集群一些须知
哈希槽
- 分片集群一共有为0-16383 slot,存储数据和读取数据时,在哪一个节点进行操作,是根据key的有效值,根据CRC16 算法算取哈希值,然后对 16384 进行取模,得到的值就是slot值。
- key的有效值分为两种情况
a.key中没有{},整个key都是有效值
b. key中有{},只有{}中的字符才是有效值。
3.根据key的有效值的特性,我们可以把同一类型的数据存储在相同的slot下,减少切换节点带来的不必要的性能消耗。比如存储用户的数据 ,在设计key时,我们可以统一在和用户相关的key前加上:{user}。
redis的拓展和压缩
- 添加一个新的节点
shell
redis-cli --cluster add-node <新节点IP:端口> <集群中任意已知节点IP:端口>
默认时主节点,此时新节点还没有分配任何的slot,需要重新分配slot。
shell
redis-cli --cluster reshard <集群中任意已知节点IP:端口>
如果要设置成从节点
shell
# 连接新节点
redis-cli -h <新从节点IP> -p <新从节点端口>
# 设置主节点
CLUSTER REPLICATE <目标主节点ID>
- 删除节点
如果删除的从节点,因为从节点没有任何的slot,所以可以直接删除
shell
redis-cli --cluster del-node <集群中任意已知节点IP:端口> <要删除的从节点ID>
删除主节点,把主节点的slot迁移到其他主节点在进行删除
yaml
redis-cli --cluster reshard <集群中任意已知节点IP:端口>