架构第二十一章：Redis-2

cd1.redis集群

Redis Cluster 是 redis的分布式解决方案，在3.0版本正式推出

当遇到单机、内存、并发、流量等瓶颈时，可以采用Cluster架构方案达到负载均衡目的。

Redis Cluster之前的分布式方案有两种：

1)客户端分区方案: 优点分区逻辑可控，缺点是需要自己处理数据路由，高可用和故障转移等。

2)代理方案: 优点是简化客户端分布式逻辑和升级维护便利，缺点加重架构部署和性能消耗。

官方提供的 Redis Cluster集群方案，很好的解决了集群方面的问题

2.数据分布

分布式数据库首先要解决把整个数据库集按照分区规则映射到多个节点的问题，即把数据集划分到多个节点上，

每个节点负责整体数据的一个子集，需要关注的是数据分片规则，Redis Cluster采用哈希分片规则。

3 目录规划

redis安装目录

/opt/redis_cluster/redis_{PORT}/{conf,logs,pid}

redis数据目录

/data/redis_cluster/redis_{PORT}/redis_{PORT}.rdb

redis运维脚本

/root/scripts/redis_shell.sh

4.集群拓扑

redis1 192.168.8.10

redis2 192.168.8.20

redis3 192.168.8.30

5.手动搭建部署集群

思路:

先部署一台服务器上的2个集群节点，

把文件发送到其他主机修改IP地址，启动服务

实现命令：

（1）redis1操作

mkdir -p /opt/redis_cluster/redis_{6380,6381}/{conf,logs,pid}

mkdir -p /data/redis_cluster/redis_{6380,6381}

先安装redis,具体步骤参考上章笔记

cat >/opt/redis_cluster/redis_6380/conf/redis_6380.conf<<EOF

bind 192.168.5.1

port 6380

daemonize yes

pidfile "/opt/redis_cluster/redis_6380/pid/redis_6380.pid"

logfile "/opt/redis_cluster/redis_6380/logs/redis_6380.log"

dbfilename "redis_6380.rdb"

dir "/data/redis_cluster/redis_6380/"

cluster-enabled yes

cluster-config-file nodes_6380.conf

cluster-node-timeout 15000

EOF

cd /opt/redis_cluster/

cp redis_6380/conf/redis_6380.conf redis_6381/conf/redis_6381.conf

sed -i 's#6380#6381#g' redis_6381/conf/redis_6381.conf

redis-server /opt/redis_cluster/redis_6380/conf/redis_6380.conf

redis-server /opt/redis_cluster/redis_6381/conf/redis_6381.conf

（2）复制redis1的安装和数据目录到redis2、redis3

scp -rp /opt/redis_cluster/ [email protected]:/opt

（3）redis2操作：

cd /opt/redis_cluster/redis

make install

find /opt/redis_cluster/redis_638* -type f -name "*.conf"|xargs sed -i "s#10#20#g"

mkdir -p /data/redis_cluster/redis_{6380,6381}

redis-server /opt/redis_cluster/redis_6380/conf/redis_6380.conf

redis-server /opt/redis_cluster/redis_6381/conf/redis_6381.conf

（4）redis3操作

cd /opt/redis_cluster/redis

make install

find /opt/redis_cluster/redis_638* -type f -name "*.conf"|xargs sed -i "s#10#30#g"

mkdir -p /data/redis_cluster/redis_{6380,6381}

redis-server /opt/redis_cluster/redis_6380/conf/redis_6380.conf

redis-server /opt/redis_cluster/redis_6381/conf/redis_6381.conf

############################################################################################

1.手动配置节点发现

当把所有节点都启动后查看进程会有cluster的字样

但是登录后执行CLUSTER NODES命令会发现只有每个节点自己的ID,目前集群内的节点

还没有互相发现,所以搭建redis集群我们第一步要做的就是让集群内的节点互相发现.

在执行节点发现命令之前我们先查看一下集群的数据目录会发现有生成集群的配置文件

查看后发现只有自己的节点内容,等节点全部发现后会把所发现的节点ID写入这个文件

集群模式的Redis除了原有的配置文件之外又加了一份集群配置文件.当集群内节点

信息发生变化,如添加节点,节点下线,故障转移等.节点会自动保存集群状态到配置文件.

需要注意的是,Redis自动维护集群配置文件,不需要手动修改,防止节点重启时产生错乱.

节点发现使用命令: CLUSTER MEET {IP} {PORT}

提示:在集群内任意一台机器执行此命令就可以

then

REDIS_PORT='6379'

elif

"KaTeX parse error: Expected 'EOF', got '#' at position 1: #̲" = 2 -a -z "(echo "$2"\|sed 's#\[0-9\]##g')"

then

REDIS_PORT="$2"

else

USAG

exit 0

REDIS_IP=$(hostname -I|awk '{print KaTeX parse error: Expected 'EOF', got '}' at position 2: 1}̲') PATH_DIR=/op...{REDIS_PORT}/

PATH_CONF=/opt/redis_cluster/redis_KaTeX parse error: Expected group after '_' at position 24: ...ORT}/conf/redis_̲{REDIS_PORT}.conf

PATH_LOG=/opt/redis_cluster/redis_KaTeX parse error: Expected group after '_' at position 24: ...ORT}/logs/redis_̲{REDIS_PORT}.log

CMD_START(){

redis-server ${PATH_CONF}

}

CMD_SHUTDOWN(){

redis-cli -c -h ${REDIS_IP} -p$ {REDIS_PORT} shutdown

}

CMD_LOGIN(){

redis-cli -c -h ${REDIS_IP} -p$ {REDIS_PORT}

}

CMD_PS(){

ps -ef|grep redis

}

CMD_TAIL(){

tail -f ${PATH_LOG}

}

case $1 in

start)

CMD_START

CMD_PS

;;

stop)

CMD_SHUTDOWN

CMD_PS

;;

restart)

CMD_START

CMD_SHUTDOWN

CMD_PS

;;

CMD_LOGIN

;;

ps)

CMD_PS

;;

tail)

CMD_TAIL

;;

USAG

esac

2.数据导入导出工具

需求背景

刚切换到redis集群的时候肯定会面临数据导入的问题,所以这里推荐使用redis-migrate-tool工具来导入单节点数据到集群里

官方地址：

http://www.oschina.net/p/redis-migrate-tool

安装工具

cd /opt/redis_cluster/

git clone https://github.com/vipshop/redis-migrate-tool.git

cd redis-migrate-tool/

autoreconf -fvi

./configure

make && make install

创建配置文件

root@redis1 \~\]# cat redis_6379_to_6380.conf \[source

type: single

servers:

192.168.8.10:6379

target

type: redis cluster

servers:

192.168.8.10:6380

common

listen: 0.0.0.0:8888

source_safe: true

生成测试数据

root@redis1 \~\]# cat input_key.sh #!/bin/bash for i in KaTeX parse error: Expected group after '_' at position 57: ...1 -p 6379 set k_̲{i} v_KaTeX parse error: Expected 'EOF', got '\&' at position 5: {i} \&̲\& echo "set k_{i} is ok" done 执行导入命令 \[root@redis1 \~\]# redis-migrate-tool -c redis_6379_to_6380.conf 数据校验 \[root@redis1 \~\]# redis-migrate-tool -c redis_6379_to_6380.conf -C redis_check 3.分析键值大小 需求背景 redis的内存使用太大键值太多,不知道哪些键值占用的容量比较大,而且在线分析会影响性能. 安装工具 yum install python-pip gcc python-devel cd /opt/ git clone https://github.com/sripathikrishnan/redis-rdb-tools cd redis-rdb-tools python setup.py install 使用方法 cd /data/redis_cluster/redis_6380/ rdb -c memory redis_6380.rdb -f redis_6380.rdb.csv 分析rdb并导出 awk -F ',' '{print $4,$2,$3,$1}' redis_6380.rdb.csv \|sort \> 6380.txt 4.监控过期键 需求背景 因为开发重复提交，导致电商网站优惠卷过期时间失效 问题分析 如果一个键已经设置了过期时间，这时候在set这个键，过期时间就会取消 解决思路 如何在不影响机器性能的前提下批量获取需要监控键过期时间 1.Keys \* 查出来匹配的键名。然后循环读取ttl时间 2.scan \* 范围查询键名。然后循环读取ttl时间 Keys 重操作，会影响服务器性能，除非是不提供服务的从节点 Scan 负担小，但是需要去多次才能取完，需要写脚本 脚本内容： cat 01get_key.sh #!/bin/bash key_num=0 > key_name.log > > for line in ( c a t k e y l i s t . t x t ) d o w h i l e t r u e d o s c a n n u m = (cat key_list.txt) do while true do scan_num= (catkeylist.txt)dowhiletruedoscannum=(redis-cli -h 192.168.47.75 -p 6380 SCAN ${key_num} match ${line}\* count 1000\|awk 'NR==1{print KaTeX parse error: Expected 'EOF', got '}' at position 2: 0}̲') key_...(redis-cli -h 192.168.47.75 -p 6380 SCAN ${key_num} match ${line}\* count 1000\|awk 'NR\>1{print $0}') > > echo ${key_name}\|xargs -n 1 \>\> key_name.log > > ((key_num=scan_num)) > > if \[ ${key_num} == 0

then

break

fi

done

done