生产环境部署Nginx服务器双机热备部署-keepalived（多种模式教程）

Linux运维技术栈2024-06-30 11:36

前言：今天演示下生产环境keepalived的部署方式，安装模式有很多，比如说主备模型和双主模型，主备分：抢占模式 和 非抢占模式。这里我会一一展开说具体怎么配置
一、双节点均部署Nginx：

第一步：上传安装包到/usr/local/

第二步：安装编译依赖（使用普通用户需要家sudo）

yum install gcc gcc-c++
yum install zlib zlib-devel
yum install pcre pcre-devel
yum install openssl libssl-dev

第三步：解压，编译安装：

解压命令： sudo tar -zxvf nginx-1.24.0.tar.gz 
进入nginx路径：cd nginx-1.24.0	
编译安装：
命令：
sudo ./configure --prefix=/etc/nginx --sbin-path=/usr/bin/nginx --conf-path=/etc/nginx/nginx.conf --error-log-path=/var/log/nginx/error.log --http-log-path=/var/log/nginx/access.log --pid-path=/var/run/nginx.pid --lock-path=/var/run/nginx.lock --with-http_ssl_module
# --with-http_ssl_module这个参数为了启用 SSL 支持。
命令：sudo make install

第四步：启动nginx

命令：sudo nginx

第五步：停止nginx
命令：sudo nginx -s stop

第六步：配置nginx开机启动

sudo vim /etc/rc.d/rc.local
添加执行语句/usr/bin/nginx
退出保存
开机启动文件授权
sudo chmod +x /etc/rc.d/rc.local

第六步：重载nginx
nginx -s reload
**Nginx安全加固配置：**在nginx.conf配置文件里加上TLSv1.2 TLSv1.3; 和隐藏版本号的部分。

# 在server { }块里配置启用TLSv1.2和TLSv1.3的参数 
    ssl_protocols TLSv1.2 TLSv1.3;  
# 在http { }块里配置隐藏Nginx服务器版本信息的参数
    server_tokens off;

二、双节点部署keepalived主备模式

第一步：上传安装包到/mpjava/

第二步：安装gcc等编译需要的软件库。（要求网络能连接外网进行更新，如果已安装，可跳过此步骤）

命令：yum -y install libnl libnl-devel 
命令：yum -y install gcc gcc-c++
命令：yum -y install  openssl 
命令：yum -y install openssl-devel
命令：yum -y install libnl3-devel

第三步：解压，并编译安装

命令：tar -zxf keepalived-2.2.4.tar.gz
命令：cd keepalived-2.2.4
命令：./configure --prefix=/usr/local/keepalived
命令：make && make install

第四步：复制配置文件

命令：mkdir  -p  /etc/keepalived
命令：cp /usr/local/keepalived/etc/keepalived/keepalived.conf /etc/keepalived/ #主配置文件
命令：cp /usr/local/keepalived/etc/sysconfig/keepalived /etc/sysconfig/
命令：ln -s /usr/local/keepalived/sbin/keepalived /sbin/

第五步：设置开机启动
命令：chkconfig keepalived on

第六步：启动keepalived

命令：systemctl start keepalived
命令：ps -ef | grep keepalived

问题：发现未能正常启动

查看日志命令：
systemctl status keepalived.service -l：查看 keepalived 服务的状态及相关日志信息
journalctl -u keepalived.service -f：实时查看 keepalived 服务的日志输出
tail -22f /var/log/messages | grep Keepalived：通过查看系统日志/var/log/messages中与 Keepalived 相关的内容来获取日志信息

原因：通过查询系统日志发现keepalived配置文件默认网卡名和当前服务器网卡名不一致。

解决：需要修改/etc/keepalived/keepalived.conf的网卡名，与服务器同步即可。
重启keepalived：systemctl start keepalived

第七步：新建nginx检测脚本nginxcheck.sh，并存放在指定目录，本例使用：/mpjava/nginxcheck.sh

命令：vim /mpjava/nginxcheck.sh
添加以下内容：
#/bin/sh

nginxPidNum=`ps -C nginx --no-header |wc -l`
if [[ $nginxPidNum -eq 0 ]];
then
    killall keepalived
fi
注：需要设置nginxcheck.sh有执行权限，chmod 777 /mpjava/nginxcheck.sh

第八步：按下例分别修改主、备服务器/etc/keepalived/keepalived.conf

声明：这里的ip为虚假ip，只是举例说明
主节点：

! Configuration File for keepalived

global_defs {
   notification_email {
     acassen@firewall.loc
     failover@firewall.loc
     sysadmin@firewall.loc
   }
   notification_email_from Alexandre.Cassen@firewall.loc
   smtp_server 10.0.0.1                  #配置当前网关
   smtp_connect_timeout 30
   router_id LVS_DEVEL
   vrrp_skip_check_adv_addr
   vrrp_strict
   vrrp_garp_interval 0
   vrrp_gna_interval 0
}

vrrp_script chk_nginx {
    script "/mpjava/nginxcheck.sh"       #脚本位置
    interval 2                           #检测时间间隔
    weight 2                             #权重2
}

vrrp_instance VI_1 {
    state BACKUP                   #主节点如果写BACKUP，和配置下面的nopreempt参数就为 非抢占模式；如果写MASTER，删除nopreempt参数，则为 抢占模式
    nopreempt                      #非抢占模式参数  
    interface enp4s3
    virtual_router_id 69           #不能使用同网段已使用的ip地址；同一个VRRP实例中每个节点的虚拟路由ID必须相同
    priority 100                   #不管是否开启抢占模式，主节点的优先级必须高于 从节点
    advert_int 1
    authentication {
        auth_type PASS
        auth_pass 1111
    }

track_script {                           #以脚本为监控chk_http_port是前面填写的
        chk_nginx
    }

    virtual_ipaddress {
        10.0.0.10                        #vip
    }
}

从节点：

! Configuration File for keepalived

global_defs {
   notification_email {
     acassen@firewall.loc
     failover@firewall.loc
     sysadmin@firewall.loc
   }
   notification_email_from Alexandre.Cassen@firewall.loc
   smtp_server 10.0.0.1                   #配置当前网关
   smtp_connect_timeout 30
   router_id LVS_DEVEL
   vrrp_skip_check_adv_addr
   vrrp_strict
   vrrp_garp_interval 0
   vrrp_gna_interval 0
}

vrrp_script chk_nginx {
    script "/mpjava/nginxcheck.sh"         #脚本位置
    interval 2                             #检测时间间隔
    weight 2                               #权重2
}

vrrp_instance VI_1 {
    state BACKUP                           #不管是抢占模式否，从节点设置为backup
    nopreempt                              #非抢占模式参数，如果不开启该模式，需要删除  
    interface eth0
    virtual_router_id 69                   #不能使用同网段已使用的ip地址；同一个VRRP实例中每个节点的虚拟路由ID必须相同
    priority 99
    advert_int 1
    authentication {
        auth_type PASS
        auth_pass 1111
    }

track_script {                             #以脚本为监控chk_http_port是前面填写的
        chk_nginx
    }

    virtual_ipaddress {
        10.0.0.10                          #VIP
    }
}`

第九步：验证

由于涉及公司内网ip，验证结果不方便展示，我这里口述方法：

抢占模式：启动两个节点的nginx和keepalived，当主节点的keepalived关了后，VIP会漂移到从节点上，当主节点启动后，此时VIP会漂移回主节点；

非抢占模式：启动两个节点的nginx和keepalived，当主节点的keepalived关了后，VIP会漂移到从节点上，此时再将主节点启动后，VIP不会漂移回主节点；
(以上验证方法用命令ip a实时查看网卡的VIP地址的漂移节奏）

高可用集群中的不抢占功能。在一个HA集群中，如果主节点死机了，备用节点会进行接管，主节点再次正常启动后一般会自动接管服务。对于实时性和稳定性要求不高的业务系统来说，这种来回切换的操作还是可以接受的。而对于稳定性和实时性要求很高的业务系统来说，不建议来回切换，毕竟服务的切换存在一定的风险和不稳定性

三、Keepalived主主模式

第一步：按下例分别修改主、主服务器/etc/keepalived/keepalived.conf

声明：这里的ip为虚假ip，只是举例说明
主节点1：

! Configuration File for keepalived

global_defs {
   notification_email {
     acassen@firewall.loc
     failover@firewall.loc
     sysadmin@firewall.loc
   }
   notification_email_from Alexandre.Cassen@firewall.loc
   smtp_server 10.0.0.1                   #配置当前网关
   smtp_connect_timeout 30
   router_id LVS_DEVEL
   vrrp_skip_check_adv_addr
   vrrp_strict
   vrrp_garp_interval 0
   vrrp_gna_interval 0
}

vrrp_script chk_nginx {
    script "/mpjava/nginxcheck.sh"        #脚本位置
    interval 2                            #检测时间间隔
    weight 2                              #权重2
}

vrrp_instance VI_1 {
    state MASTER                          #主节点为MASTER
    interface enp4s3
    virtual_router_id 69                  #不能使用同网段已使用的ip地址；同一个VRRP实例中每个节点的虚拟路由ID必须相同
    priority 100                          #MASTER节点必须高于BACKUP节点
    advert_int 1
    authentication {
        auth_type PASS
        auth_pass 1111
    }

track_script {                           #以脚本为监控chk_http_port是前面填写的
        chk_nginx
    }

    virtual_ipaddress {
        10.0.0.8                         #vip1
    }
}

vrrp_instance VI_2 {
    state BACKUP                        #该节点设置为backup
    interface eth0
    virtual_router_id 70                # 同一个VRRP实例中每个节点的虚拟路由ID必须相同
    priority 90                         # MASTER节点必须高于BACKUP节点
    advert_int 1
    authentication {
        auth_type PASS
        auth_pass 1111
    }
    virtual_ipaddress {
        10.0.0.9                        #vip2
    }
}

主节点2：

! Configuration File for keepalived

global_defs {
   notification_email {
     acassen@firewall.loc
     failover@firewall.loc
     sysadmin@firewall.loc
   }
   notification_email_from Alexandre.Cassen@firewall.loc
   smtp_server 10.0.0.1                  #配置当前网关
   smtp_connect_timeout 30
   router_id LVS_DEVEL
   vrrp_skip_check_adv_addr
   vrrp_strict
   vrrp_garp_interval 0
   vrrp_gna_interval 0
}

vrrp_script chk_nginx {
    script "/mpjava/nginxcheck.sh"        #脚本位置
    interval 2                            #检测时间间隔
    weight 2                              #权重2
}

vrrp_instance VI_1 {
    state BACKUP                          #不管是抢占模式否，从节点设置为backup
    nopreempt                             #非抢占模式参数，如果不开启该模式，需要删除  
    interface eth0
    virtual_router_id 69                  #不能使用同网段已使用的ip地址；同一个VRRP实例中每个节点的虚拟路由ID必须相同
    priority 99                           #MASTER节点必须高于BACKUP节点
    advert_int 1
    authentication {
        auth_type PASS
        auth_pass 1111
    }

track_script {                            #以脚本为监控chk_http_port是前面填写的
        chk_nginx
    }

    virtual_ipaddress {
        10.0.0.8                          #vip1
    }
}`

vrrp_instance VI_2 {
    state MASTER                         #该节点设置为MASTER
    interface eth0
    virtual_router_id 70                 #同一个VRRP实例中每个节点的虚拟路由ID必须相同
    priority 100                         #MASTER节点的优先级必须高于BACKUP节点
    advert_int 1
    authentication {
        auth_type PASS
        auth_pass 1111
    }
    virtual_ipaddress {
        10.0.0.9                         #vip2


    }
}

第二步：验证
由于涉及公司内网ip，验证结果不方便展示，我这里口述方法：

启动两个主节点的nginx和keepalived，将nginx中配置的域名解析到这两个VIP地址上，浏览器访问正常。此时关闭其中一个主节点的keepalived，VIP会漂移到另外一台主节点服务器上。
(以上验证方法用命令ip a实时查看网卡的VIP地址的漂移节奏）

在keepalived的主备模式中，当主节点正常的时候，备节点永远处于闲置状态，不会接受web请求，这样就会浪费一半的资源。根据自身业务和资源等综合来选择模式。

热门推荐
01Coze扣子平台完整体验和实践（附国内和国际版对比）02组基轨迹建模 GBTM的介绍与实现（Stata 或 R）03【经验分享】Ubuntu22.04安装微信(linux官方版)04yolov8实战第五天——yolov8+ffmpg实时视频流检测并进行实时推流——（推流，保姆教学）052025张宇考研数学，百度网盘视频课+36讲PDF讲义+真题06【立创EDA-PCB设计基础】6.布线铺铜实战及细节详解07升级 Ubuntu 主机上的 OpenSSH 从 8.9p1 到 9.8p108通达信神奇九转指标原理及选股公式，无未来函数，数字不消失09浏览器插件——ModHeader 的分享和学习10【漏洞复现】Geoserver远程代码执行漏洞（CVE-2024-36401）