LVS-NAT + LVS-DR

LVS

现在lvs已经是linux内核标准的一部分,使用lvs可以达到的技术目标是:通过linux达到负载均衡技术和linux操作系统实现一个高性能高可用的linux服务器集群,他具有良好的可靠性,可延展性和可操作性,从而以低廉的成本实现最优的性能,Lvs是一个实现负载均衡集群开源软件项目,lvs从逻辑上可以分为调度层, server集群层,和共享存储

一个调度主机,有两个网卡

lvs的工作原理

  1. 当用户向负载均衡调度器(director server)发起请求,调度器将请求发往内核空间
  2. prerouting链首先会接受到用户请求,判断目标ip确定是本机ip,将数据包发往input链
  3. IPVS是工作在input链上的,当用户请求到达input时,ipvs会将用户请求和自己定义好的集群服务器进行比对,如果用户请求就是定义的集群服务,那么此时ipvs会强行修改数据包里的目标ip地址以及端口,并将新的数据包发往POSTROUTING链
  4. POSTROUTING链接收到数据包后,发现目标ip地址刚好是自己的后端服务器,那么通过选路,将数据包最终发送给后端服务器

lvs组成及术语

1.ipvs:
ip virtual server,一段代码工作在内核空间,ipvs,是真正生效实现
调度的代码(类似nginx中的proxy_pass)

2.ipvsadm
另一段是工作在用户空间,ipvsadm,负责为ipvs内核框架编写规则,定义
谁是集群服务,谁是后端真正的服务器(real server)类似nginx中的
upstrean

DS:前端负责均衡节点(负载均衡服务器)

RS:后端真实工作服务器(web服务器)
vip向外部直接面向用户请求,作为用户请求的目标ip地址(负载均衡的ip地址,提供给用户)

DIP Director Server Ip 和内部主机通讯的ip地址(负责与Real Server交互的内部Ip)
RIP Real Server Ip 后端服务器ip地址
CIP client IP 访问客户端ip地址

vip:对外,公网

dip:对内,局域网

lvs的工作模式

LVS-NAT模式

nat模式工作原理
  1. 用户请求ds,此时请求的报文会先到内核空间prerouting链,此时报文ip为cip,目标ip为vip
  2. prerouting检测发现数据包目标ip是本机,将数据包送到input链
  3. ipvs对比数据包请求的服务是否为集群服务,如果是,修改数据包的目标ip地址为后端服务器的IP地址,然后将数据包发送给POSTROUTING链,此时报文ip为cip,目标ip为rip
  4. POSTROUTING通过选路,将数据发送给Real Server
  5. RealServer对比发现目标ip为自己的ip,开始构建响应报文发回给Director Server此时报文的源ip为RIP,目标ip为CIP
  6. Derector Server在响应客户端前,会将源ip地址修改为自己的VIP,然后响应给客户端,目标ip为cip,此时报文源IP为VIP,目标ip为cip
nat模式的特性
  1. Rs应该是私有地址,Rs网关必须指向DIP
  2. DIP和RIP必须在同一个网段内
  3. 请求和响应报文都应该经过Director Server,高负载场景中Director Server容易成为性能瓶颈
  4. 支持端口映射
  5. Rs可是使用任意操作系统
  6. 缺陷,对Ds压力会比较大,请求和响应都需要经过ds,
nat环境搭建

|-------|---------------------------------------|---------------------------|
| 主机名称 | ip地址 | 功能 |
| web01 | 192.168.118.200 | rs |
| web02 | 192.168.118.201 | realserver |
| nat | vip:192.168.10.100 dip:192.168.118.10 | 负载均衡调度器directorserver,ntp |
| dns | 192.168.118.110 | dns |

web服务器:

下载nginx,在index.html写入内容,启动nginx,编写计划任务

yum -y install nginx

echo "web-----01" > /usr/share/nginx/html/index.html
[root@web01 ~]# nginx
[root@web01 ~]# crontab -e

30 3 * * * /usr/sbin/ntpdate 192.168.118.10 //时间服务器的IP

nat服务器:

需要两块网卡,再添加一块网卡

配置vip网卡:

  1. 在编辑虚拟网络中创建桥接模式的网卡,并且桥接到有网的适配器上
  2. 在vmware的虚拟主机资源管理器找到虚拟主机,右键菜单,设置
  3. 添加新的网卡,自定义为刚才创建的桥接模式网卡
  4. 此时在虚拟主机中使用ifconfig无法找到新的网卡
  5. ip a能够查看到新的ens36网卡,没有路由
  6. 编辑网卡配置
  7. 重启network服务

同步时间,编写计划任务,配置时间服务器,启动服务,设置开机自启动

142 yum -y install ntpdate.x86_64
143 ntpdate cn.ntp.org.cn
144 which ntpdate
145 crontab -e

* 2 * * * /usr/sbin/ntpdate cn.ntp.org.cn

147 yum -y install ntp
148 systemctl start ntpd
149 systemctl enable ntpd

dns服务器:

[root@dns ~]# yum -y install bind

[root@dns ~]# vim /etc/named.conf //添加any
[root@dns ~]# vim /etc/named.rfc1912.zones

zone "yuanyu.zhangmin" IN {
type master;
file "yuanyu.zhangmin.zone";
allow-update { none; };
};

[root@dns ~]# cd /var/named/
[root@dns named]# cp -p named.localhost yuanyu.zhangmin.zone
[root@dns named]# vim yuanyu.zhangmin.zone


[root@dns named]# named-checkconf /etc/named.conf
[root@dns named]# named-checkconf /etc/named.rfc1912.zones
[root@dns named]# named-checkzone yuanyu.zhangmin.zone yuanyu.zhangmin.zone
[root@dns named]# systemctl restart named

client客户端:

[root@allow ~]# echo "nameserver 192.168.118.110" > /etc/resolve.conf
[root@allow ~]# ping nat.yuanyu.zhangmin -c2
PING nat.yuanyu.zhangmin (192.168.118.135) 56(84) bytes of data.
64 bytes from 192.168.118.135 (192.168.118.135): icmp_seq=1 ttl=64 time=0.639 ms
64 bytes from 192.168.118.135 (192.168.118.135): icmp_seq=2 ttl=64 time=0.305 ms

nat配置规则:在nat服务器配置

安装ipvsadm

[root@nat ~]# yum -y install ipvsadm.x86_64

查看所有的规则,如果已经配置好规则,重启之后也就没有了

清空以往的规则

[root@nat ~]# ipvsadm -C

查看规则

[root@nat ~]# ipvsadm -L -n

新增规则

[root@nat ~]# ipvsadm -A -t 192.168.10.100:80 -s rr

添加主机,即添加rs web01,web02添加规则

[root@nat ~]# ipvsadm -a -t 192.168.10.100:80 -r
192.168.118.200:80 -m
[root@nat ~]# ipvsadm -a -t 192.168.10.100:80 -r
192.168.118.201:80 -m

设置ip转发

[root@nat ~]# vim /etc/sysctl.conf
net.ipv4.ip_forward=1

设置生效

[root@nat ~]# sysctl -p
net.ipv4.ip_forward = 1 //支持IP转发了

web服务器网关配置:

临时修改web01和web02的网关,网关必须指向dip(调度服务器的对内的ip)

这也要求了rs ip和dip要在同一个网段,因为dip是要作为网关存在的
[root@web01 ~]# route del default
[root@web01 ~]# route add default gw 192.168.118.100
[root@web02 ~]# route del default
[root@web02 ~]# route add default gw 192.168.118.100

升级

lvs-nat模式的优点配置简单,缺点是请求和响应都必须经过ds,容易成为性能瓶颈
希望有这样的模式,请求的时候使用input链进行负载均衡,响应的时候就不要经过ds,直接由rs响应给客户端
在nat模式的时候,请求vip,接收vip的响应
构想 请求vip,接受rip响应,这是不允许 lvs-dr模式,但是我们可以在rs上也配置vip

LVS-DR模式

1.性能更优,回路不再经过ds
2.ds和rs为了保证用户响应,都要求配置统一的vip
3.由于rs是直接响应client,网关一定不能设置为ds 的dip
4.对rs的vip进行抑制,让ds的vip接收请求,rs的vip不接受请求
5.rs的vip绑定点lo回路网卡上

设置ds主机:192.168.118.202

1.在ens33上挂一个IP地址(vip)192.168.118.203,在rs上的vip和这个vip相同

9 ifconfig ens33:0 192.168.118.203 broadcast 192.168.118.203 netmask 255.255.255.255 up

2.设置主机路由
11 route add -host 192.168.118.203 dev ens33:0
3. 安装ipvsadm
13 yum -y install ipvsadm

4.配置规则

ipvsadm -C //清空规则
14 ipvsadm -A -t 192.168.118.203:80 -s rr
15 ipvsadm -a -t 192.168.118.203:80 -r 192.168.118.200 -g
17 ipvsadm -a -t 192.168.118.203:80 -r 192.168.118.201 -g
18 ipvsadm -Ln
注意:
rs不在需要指定端口,dr不支持端口映射,vip上是80端口,最终就是80端口
-m nat
-g gateway

设置rs主机

1.在lo接口上绑定vip

2.设置主机路由

3.抑制rs接收请求

web01:

[root@web01 ~]# ifconfig lo:0 192.168.118.203 broadcast 192.168.118.203 netmask 255.255.255.255 up
[root@web01 ~]# route add -host 192.168.118.203 dev lo:0
[root@web01 ~]# ifconfig
抑制rs的vip接收请求

echo 1 > /proc/sys/net/ipv4/conf/lo/arp_ignore
echo 2 > /proc/sys/net/ipv4/conf/lo/arp_announce
echo 1 > /proc/sys/net/ipv4/conf/all/arp_ignore
echo 2 > /proc/sys/net/ipv4/conf/all/arp_announce

web02的操作与web01一样,可以使用脚本来操作:

[root@web02 ~]# cat arp.sh
ifconfig lo:0 192.168.118.203 broadcast 192.168.118.203 netmask 255.255.255.255 up
route add -host 192.168.118.203 dev lo:0

echo 1 > /proc/sys/net/ipv4/conf/lo/arp_ignore
echo 2 > /proc/sys/net/ipv4/conf/lo/arp_announce
echo 1 > /proc/sys/net/ipv4/conf/all/arp_ignore
echo 2 > /proc/sys/net/ipv4/conf/all/arp_announce

测试使用,查看状态

在浏览器上访问vip 192.168.118.203,在dr上查看详情

[root@dr ~]# ipvsadm -Ln --stats
IP Virtual Server version 1.2.1 (size=4096)
Prot LocalAddress:Port Conns InPkts OutPkts InBytes OutBytes
-> RemoteAddress:Port
TCP 192.168.118.203:80 6 140 0 39432 0
-> 192.168.118.200:80 3 12 0 518 0
-> 192.168.118.201:80 3 128 0 38914 0

相关推荐
_.Switch30 分钟前
高级Python自动化运维:容器安全与网络策略的深度解析
运维·网络·python·安全·自动化·devops
2401_8504108330 分钟前
文件系统和日志管理
linux·运维·服务器
qq_2546744132 分钟前
工作流初始错误 泛微提交流程提示_泛微协同办公平台E-cology8.0版本后台维护手册(11)–系统参数设置
网络
JokerSZ.34 分钟前
【基于LSM的ELF文件安全模块设计】参考
运维·网络·安全
芯盾时代1 小时前
数字身份发展趋势前瞻:身份韧性与安全
运维·安全·网络安全·密码学·信息与通信
心灵彼岸-诗和远方2 小时前
DevOps业务价值流:架构设计最佳实践
运维·产品经理·devops
一只哒布刘2 小时前
NFS服务器
运维·服务器
苹果醋33 小时前
Java8->Java19的初步探索
java·运维·spring boot·mysql·nginx
小松学前端3 小时前
第六章 7.0 LinkList
java·开发语言·网络