Nginx+Tomcat负载均衡、动静分离原理

|------------------|------------------------------------------------------------------------|
| weight | 服务访问的权重，默认是1 |
| max_conns | server的最大并发连接数，仅作用于单worker进程，默认是0，表示没有限制 |
| max _fails | 在fail timeout时间段内，最大的失败次数，当达到最大失败时，会在failtimeout秒内这台server不允许再次被选择 |
| fail timeout | 单位为秒，默认10秒 |

proxy_pass http:// 服务池名
作用：配置将访问请求转发给后端服务器池的服务器处理

二.Nginx动静分离

1.什么是动静分离

动静分离是让动态网站里的动态网页根据一定规则把不变的资源和经常变的资源区分开来，动静资源做好了拆分以后，我们就可以根据静态资源的特点将其做缓存操作，这就是网站静态化处理的核心思路
动静分离简单的概括是：动态文件与静态文件的分离
伪静态：网站如果想被搜索引擎搜素到，动态页面静态技术freemarker等模版引擎技术

2.动态页面与静态页面区别

静态资源：当用户多次访问这个资源，资源的源代码永远不会改变的资源
动态资源：当用户多次访问这个资源，资源的源代码可能会发送改变

3.动静分离原理

服务端接收来自客户端的请求中，既有静态资源也有动态资源，静态资源由Nginx提供服务，动态资源由Nginx转发至后端

三.Nginx+Tomcat负载均衡的实验设计

1.部署nginx负载均衡器

192.168.80.101

systemctl stop firewalld
setenforce 0
 
yum -y install pcre-devel zlib-devel openssl-devel gcc gcc-c++ make
 
useradd -M -s /sbin/nologin nginx
 
cd /opt
tar xf nginx-1.26.0.tar.gz
 
cd nginx-1.26.0/
./configure \
--prefix=/usr/local/nginx \
--user=nginx \
--group=nginx \
--with-file-aio \									#启用文件修改支持
--with-http_stub_status_module \					#启用状态统计
--with-http_gzip_static_module \					#启用 gzip静态压缩
--with-http_flv_module \							#启用 flv模块，提供对 flv 视频的伪流支持
--with-http_ssl_module								#启用 SSL模块，提供SSL加密功能
--with-stream										#启用 stream模块，提供4层调


make -j 2 && make install
 
ln -s /usr/local/nginx/sbin/nginx /usr/local/sbin/
 
vim /lib/systemd/system/nginx.service
[Unit]
Description=nginx
After=network.target
[Service]
Type=forking
PIDFile=/usr/local/nginx/logs/nginx.pid
ExecStart=/usr/local/nginx/sbin/nginx
ExecrReload=/bin/kill -s HUP $MAINPID
ExecrStop=/bin/kill -s QUIT $MAINPID
PrivateTmp=true
[Install]
WantedBy=multi-user.target
 
chmod 754 /lib/systemd/system/nginx.service
systemctl start nginx.service
systemctl enable nginx.service

2.搭建tomcat服务器

tomcat1 和tomcat2（192.168.80.102）

tomcat3（192.168.10.103）

systemctl stop firewalld
setenforce 0
 
 
#软件包的方式安装jdk环境
tar zxvf jdk-8u91-linux-x64.tar.gz -C /usr/local/
 
vim /etc/profile
export JAVA_HOME=/usr/local/jdk1.8.0_91
export JRE_HOME=${JAVA_HOME}/jre
export CLASSPATH=.:${JAVA_HOME}/lib:${JRE_HOME}/lib
export PATH=${JAVA_HOME}/bin:${JRE_HOME}/bin:$PATH
 
source /etc/profile
 
tar zxvf apache-tomcat-9.0.16.tar.gz
 
mv /opt/apache-tomcat-9.0.16/ /usr/local/tomcat
 
/usr/local/tomcat/bin/shutdown.sh 
/usr/local/tomcat/bin/startup.sh
 
netstat -ntap | grep 8080

2.1.Tomcat server（192.168.10.103）配置

mkdir /usr/local/tomcat/webapps/test
vim /usr/local/tomcat/webapps/test/index.jsp
<%@ page language="java" import="java.util.*" pageEncoding="UTF-8"%>
<html>
<head>
<title>JSP test3 page</title>   #指定为 test3 页面
</head>
<body>
<% out.println("动态页面 3,http://www.test3.com");%>
</body>
</html>
 
 
vim /usr/local/tomcat/conf/server.xml
#由于主机名 name 配置都为 localhost，需要删除前面的 HOST 配置
<Host name="localhost" appBase="webapps" unpackWARs="true" autoDeploy="true" xmlValidation="false" xmlNamespaceAware="false">
	<Context docBase="/usr/local/tomcat/webapps/test" path="" reloadable="true">
	</Context>
</Host>
 
/usr/local/tomcat/bin/shutdown.sh 
/usr/local/tomcat/bin/startup.sh

2.2.Tomcat server （192.168.80.102）配置

tomcat1

mkdir /usr/local/tomcat/tomcat1/webapps/test /usr/local/tomcat/tomcat2/webapps/test
 
vim /usr/local/tomcat/tomcat1/webapps/test/index.jsp
<%@ page language="java" import="java.util.*" pageEncoding="UTF-8"%>
<html>
<head>
<title>JSP test2 page</title>   #指定为 test2 页面
</head>
<body>
<% out.println("动态页面 2,http://www.test2.com");%>
</body>
</html>
 
 
vim /usr/local/tomcat/tomcat1/conf/server.xml
#删除前面的 HOST 配置
<Host name="localhost" appBase="webapps" unpackWARs="true" autoDeploy="true" xmlValidation="false" xmlNamespaceAware="false">
	<Context docBase="/usr/local/tomcat/tomcat1/webapps/test" path="" reloadable="true" />
</Host>
 
/usr/local/tomcat/tomcat1/bin/shutdown.sh 
/usr/local/tomcat/tomcat1/bin/startup.sh

tomcat2

vim /usr/local/tomcat/tomcat2/webapps/test/index.jsp
<%@ page language="java" import="java.util.*" pageEncoding="UTF-8"%>
<html>
<head>
<title>JSP test1  page</title>  
</head>
<body>
<% out.println("动态页面 1,http://www.test1.com");%>
</body>
</html>
 
 
vim /usr/local/tomcat/tomcat2/conf/server.xml
#删除前面的 HOST 配置
<Host name="localhost" appBase="webapps" unpackWARs="true" autoDeploy="true" xmlValidation="false" xmlNamespaceAware="false">
	<Context docBase="/usr/local/tomcat/tomcat2/webapps/test" path="" reloadable="true" />
</Host>
 
/usr/local/tomcat/tomcat2/bin/shutdown.sh 
/usr/local/tomcat/tomcat2/bin/startup.sh

3.Nginx进行负载均衡和动静分离设置

3.1.编写Nginx静态资源测试网页

vim /usr/local/nginx/html/index.html
<html>
<body>
<h1> this is Nginx static test !</h2>
<img src="test.png"/>
</body>
</html>

3.2.进行负载均衡和动静分离配置

vim /usr/local/nginx/conf/nginx.conf
......
http {
......
	#gzip on;
	
	#配置负载均衡的服务器列表，weight参数表示权重，权重越高，被分配到的概率越大
	upstream tomcat_server {
		server 192.168.80.102:8080 weight=1;
		server 192.168.80.102:8081 weight=1;
		server 192.168.80.103:8080 weight=1;
	}
	
	server {
		listen 80;
		server_name www.test.com;
	
		charset utf-8;
	
		#access_log logs/host.access.log main;
		
		#配置Nginx处理动态页面请求，将 .jsp文件请求转发到Tomcat 服务器处理
		location ~ .*\.jsp$ {
			proxy_pass http://tomcat_server;
#设置后端的Web服务器可以获取远程客户端的真实IP
##设定后端的Web服务器接收到的请求访问的主机名（域名或IP、端口），默认HOST的值为proxy_pass指令设置的主机名。如果反向代理服务器不重写该请求头的话，那么后端真实服务器在处理时会认为所有的请求都来自反向代理服务器，如果后端有防攻击策略的话，那么机器就被封掉了。
			proxy_set_header HOST $host;
##把$remote_addr赋值给X-Real-IP，来获取源IP
			proxy_set_header X-Real-IP $remote_addr;
##在nginx 作为代理服务器时，设置的IP列表，会把经过的机器ip，代理机器ip都记录下来
			proxy_set_header X-Forwarded-For $proxy_add_x_forwarded_for;
		}
		
		#配置Nginx处理静态图片请求
		location ~ .*\.(gif|jpg|jpeg|png|bmp|swf|css)$ {
			root /usr/local/nginx/html;
			expires 10d;
		}
		
		location / {
			root html;
			index index.html index.htm;
		}
......
	}
......
}

四.Nginx反向代理类型

1.七层反向代理设置

基于http、https、mail等七层应用协议的代理转发（根据用户访问请求的URL路径来转发请求），

通常用于动静分离等应用场景

1.1.配置

1）在http配置块中使用upstream定义后端服务器列表名称和节点参数
http {
    upstream 服务器池名称 {
        server IP1:PORT1 weight=1;
        server IP2:PORT2 weight=1;
        ......
    }


2）在server配置块中使用location匹配用户请求的动态页面的URL路径，使用 proxy_pass 基于协议代理转发
    server {
	    ......
	    location ~ .*\.jsp$ {
		    proxy_pass http://服务器池名称;
		    
			#用于为后端服务器获取真实的客户端地址
		    proxy_set_header HOST $host;
            proxy_set_header X_Real_IP $remote_addr;
            proxy_set_header X_Forwarded_For $proxy_add_x_forwarded_for;
		}
    ......
	}
......
}

2.四层反向代理设置

基于 IP 和端口实现的代理转发（根据用户请求的IP和端口来转发请求），通常用于做网关访问

入口的负载均衡器等应用场景

2.1.配置

1）编译安装时需要添加 stream 四层代理模块  ./configure --with-stream

2）在 http 配置块同层级，一般在 http 配置块上面添加 stream 配置块，在 stream 配置块里使用upstream定义后端服务器列表名称和节点参数以及使用server配置块定义监听端口和转发配置
stream {
    upstream 服务器池名称 {
        server IP1:PORT1 weight=1;
        server IP2:PORT2 weight=1;
        ......
    }

    server {
	    listen IP:PORT;
		proxy_pass 服务器池名称;
	}
}

http {....}

补充：

四层反向代理比七层反向代理转发性能更高于；
七层反向代理比四层反向代理转发功能更多、更灵活

3.Nginx的负载均衡模式（调度模式、调度算法、调度策略)

|-------------------------------|-----------------------------------------------------------------------------------------------------------|
| 轮询（round robin、rr） | 是nginx的默认调度模式，按照时间顺序逐一分配请求 |
| 加权轮询（weight round、wrr） | 使用weight参数设置权重，weight值越高的节点被分配请求的概率越大 |
| least_conn（最少链接、最小连接） | 优先将请求分配给当前连接数最少的节点 |
| ip_hash（源地址哈希） | 根据客户端IP做hash缓存调度，会将请求分配给固定的一个节点 |
| url_hash（目的地址哈希） | 根据客户端请求访问的URL路径做hash缓存调度，会将请求分配给固定的一个节点。需要另外安装第三方模块支持 |
| fdir | 优先将请求分配给响应时间最少的节点，需要另外安装第三方模块支持 |
| random | 随机分配请求 |
| hash nginx全局变量 consistent | 一致性hash算法，根据nginx全局变量的值来做hash缓存调度 （比如 hash $remote_addr consistent 根据客户端IP做hash缓存调度，是IP_hash的加强版） |

4.Nginx负载均衡会话保持

**作用：**简单说就是优化用户体验，降低网络开销

如果有一个用户访问请求被分配到服务器A，并且在服务器A登录了，并且在很短的时间，这个用户又发出了一个请求，如果没有会话保持功能的话，这个用户的请求很有可能会被分配到服务器B去，这个时候在服务器B上是没有登录的，所以你要重新登录，但是用户并不知道自己的请求被分配到了哪里，用户的感觉就是登录了怎么又要登录，用户体验很不好上
会话保持都会有时间的限制(映射到固定某一台的服务器除外工如:ip_hash),各种负载均衡工具都会提供这种会话保持时间的设置，LVS，apache等。连php语言都提供了会话保持时间的设定session.gc_maxlifetime会话保持时间的设定要大于session生存时间的设定，这样可以减少需要同步session的情况，但是不能杜绝。所以同步session还是要做的

5.Nginx会话保持实现方式

5.1.ip_hash 或一致性hash算法

基于客户端IP做hash缓存将请求发送给同一个后端节点服务器来实现会话保持，但是此方法容易导

致负载失衡问题

语法:

upstream backend {
ip hash:
server backendl.example.com:
server backend2.example.com,
server backend3.example.com down:
server backend4.example.com:
}

5.2.sticky_cookie_insert

基于cookie来来判断实现会话保持

语法:

upstream backend {
server backendl.example.com:
server backend2.example.com!
sticky cookie insert srv id expires=lh domain=3evip.cn path=/:
}

说明:
设置浏览器中保持cookie的时间expires.
domain:定义cookie的域
path:为cookie定义路径

5.3.使用后端服务器自身通过相关机制保持session同步

通过缓存数据库做session同步复制，使用后端节点服务器自身配置通过相关机制保持session同步

来实现会话保持