Nginx+Tomcat负载均衡、动静分离原理

哆啦IT梦2024-06-11 22:54

目录

一.Nginx负载均衡

1.负载均衡概念

2.负载均衡原理

3.Nginx反向代理

3.1.反向代理概念

3.2.Nginx实现负载均衡的主要配置项

二.Nginx动静分离

1.什么是动静分离

2.动态页面与静态页面区别

3.动静分离原理

三.Nginx+Tomcat负载均衡的实验设计

1.部署nginx负载均衡器

2.搭建tomcat服务器

[2.1.Tomcat server（192.168.10.103） 配置](#2.1.Tomcat server（192.168.10.103） 配置)

[2.2.Tomcat server （192.168.80.102） 配置](#2.2.Tomcat server （192.168.80.102） 配置)

3.Nginx进行负载均衡和动静分离设置

3.1.编写Nginx静态资源测试网页

3.2.进行负载均衡和动静分离配置

四.Nginx反向代理类型

1.七层反向代理设置

1.1.配置

2.四层反向代理设置

2.1.配置

3.Nginx的负载均衡模式（调度模式、调度算法、调度策略))

4.Nginx负载均衡会话保持

5.Nginx会话保持实现方式

[5.1.ip_hash 或 一致性hash算法](#5.1.ip_hash 或 一致性hash算法)

5.2.sticky_cookie_insert

5.3.使用后端服务器自身通过相关机制保持session同步

一.Nginx负载均衡

1.负载均衡概念

服务端接受来自客户端的请求中，既有动态资源也有动态资源，静态资源由 Nginx 提供服务，动态

资源 Nginx 转发至后端

2.负载均衡原理

Nginx实现负载均衡是通过反向代理实现Nginx服务器作为前端，Tomcat服务器作为后端，web页

面请求由Nginx服务来进行转发。 但是不是把所有的web请求转发，而是将静态页面请求Nginx服

务器自己来处理，动态页面请求，转发给后端的Tomcat服务器来处理。据了解，Tomcat是属于轻

量级的应用服务器，可接受访问量可能会不足，所以我们需要多台Tomcat服务器。并且Tomcat并

发量处理能力弱（约Nginx的六分之一），所以需要Nginx方向代理时，进行合理的调用分配

3.Nginx反向代理

3.1.反向代理概念

将nginx接收到的请求转发给其他应用服务器处理

3.2.Nginx实现负载均衡的主要配置项

upstream 服务池名 { }

  • 作用：配置后端服务器池，以提供响应数据

proxy_pass http:// 服务池名

  • 作用：配置将访问请求转发给后端服务器池的服务器处理

upstream框架中，指令中涉及多个参数，各个参数含义说明如下

|------------------|------------------------------------------------------------------------|
| weight | 服务访问的权重，默认是1 |
| max_conns | server的最大并发连接数，仅作用于单worker进程，默认是0，表示没有限制 |
| max _fails | 在fail timeout时间段内，最大的失败次数，当达到最大失败时，会在failtimeout秒内这台server不允许再次被选择 |
| fail timeout | 单位为秒，默认10秒 |

  • proxy_pass http:// 服务池名
  • 作用：配置将访问请求转发给后端服务器池的服务器处理

二.Nginx动静分离

1.什么是动静分离

  • 动静分离是让动态网站里的动态网页根据一定规则把不变的资源和经常变的资源区分开来，动静资源做好了拆分以后，我们就可以根据静态资源的特点将其做缓存操作，这就是网站静态化处理的核心思路
  • 动静分离简单的概括是：动态文件与静态文件的分离
  • 伪静态：网站如果想被搜索引擎搜素到，动态页面静态技术freemarker等模版引擎技术

2.动态页面与静态页面区别

  • 静态资源：当用户多次访问这个资源，资源的源代码永远不会改变的资源
  • 动态资源：当用户多次访问这个资源，资源的源代码可能会发送改变

3.动静分离原理

  • 服务端接收来自客户端的请求中，既有静态资源也有动态资源，静态资源由Nginx提供服务，动态资源由Nginx转发至后端

三.Nginx+Tomcat负载均衡的实验设计

1.部署nginx负载均衡器

192.168.80.101

复制代码 
systemctl stop firewalld
setenforce 0
 
yum -y install pcre-devel zlib-devel openssl-devel gcc gcc-c++ make
 
useradd -M -s /sbin/nologin nginx
 
cd /opt
tar xf nginx-1.26.0.tar.gz
 
cd nginx-1.26.0/
./configure \
--prefix=/usr/local/nginx \
--user=nginx \
--group=nginx \
--with-file-aio \									#启用文件修改支持
--with-http_stub_status_module \					#启用状态统计
--with-http_gzip_static_module \					#启用 gzip静态压缩
--with-http_flv_module \							#启用 flv模块，提供对 flv 视频的伪流支持
--with-http_ssl_module								#启用 SSL模块，提供SSL加密功能
--with-stream										#启用 stream模块，提供4层调


make -j 2 && make install
 
ln -s /usr/local/nginx/sbin/nginx /usr/local/sbin/
 
vim /lib/systemd/system/nginx.service
[Unit]
Description=nginx
After=network.target
[Service]
Type=forking
PIDFile=/usr/local/nginx/logs/nginx.pid
ExecStart=/usr/local/nginx/sbin/nginx
ExecrReload=/bin/kill -s HUP $MAINPID
ExecrStop=/bin/kill -s QUIT $MAINPID
PrivateTmp=true
[Install]
WantedBy=multi-user.target
 
chmod 754 /lib/systemd/system/nginx.service
systemctl start nginx.service
systemctl enable nginx.service

2.搭建tomcat服务器

tomcat1 和tomcat2（192.168.80.102）

tomcat3（192.168.10.103）

复制代码 
systemctl stop firewalld
setenforce 0
 
 
#软件包的方式安装jdk环境
tar zxvf jdk-8u91-linux-x64.tar.gz -C /usr/local/
 
vim /etc/profile
export JAVA_HOME=/usr/local/jdk1.8.0_91
export JRE_HOME=${JAVA_HOME}/jre
export CLASSPATH=.:${JAVA_HOME}/lib:${JRE_HOME}/lib
export PATH=${JAVA_HOME}/bin:${JRE_HOME}/bin:$PATH
 
source /etc/profile
 
tar zxvf apache-tomcat-9.0.16.tar.gz
 
mv /opt/apache-tomcat-9.0.16/ /usr/local/tomcat
 
/usr/local/tomcat/bin/shutdown.sh 
/usr/local/tomcat/bin/startup.sh
 
netstat -ntap | grep 8080

2.1.Tomcat server（192.168.10.103） 配置

复制代码 
mkdir /usr/local/tomcat/webapps/test
vim /usr/local/tomcat/webapps/test/index.jsp
<%@ page language="java" import="java.util.*" pageEncoding="UTF-8"%>
<html>
<head>
<title>JSP test3 page</title>   #指定为 test3 页面
</head>
<body>
<% out.println("动态页面 3,http://www.test3.com");%>
</body>
</html>
 
 
vim /usr/local/tomcat/conf/server.xml
#由于主机名 name 配置都为 localhost，需要删除前面的 HOST 配置
<Host name="localhost" appBase="webapps" unpackWARs="true" autoDeploy="true" xmlValidation="false" xmlNamespaceAware="false">
	<Context docBase="/usr/local/tomcat/webapps/test" path="" reloadable="true">
	</Context>
</Host>
 
/usr/local/tomcat/bin/shutdown.sh 
/usr/local/tomcat/bin/startup.sh

2.2.Tomcat server （192.168.80.102） 配置

tomcat1

复制代码 
mkdir /usr/local/tomcat/tomcat1/webapps/test /usr/local/tomcat/tomcat2/webapps/test
 
vim /usr/local/tomcat/tomcat1/webapps/test/index.jsp
<%@ page language="java" import="java.util.*" pageEncoding="UTF-8"%>
<html>
<head>
<title>JSP test2 page</title>   #指定为 test2 页面
</head>
<body>
<% out.println("动态页面 2,http://www.test2.com");%>
</body>
</html>
 
 
vim /usr/local/tomcat/tomcat1/conf/server.xml
#删除前面的 HOST 配置
<Host name="localhost" appBase="webapps" unpackWARs="true" autoDeploy="true" xmlValidation="false" xmlNamespaceAware="false">
	<Context docBase="/usr/local/tomcat/tomcat1/webapps/test" path="" reloadable="true" />
</Host>
 
/usr/local/tomcat/tomcat1/bin/shutdown.sh 
/usr/local/tomcat/tomcat1/bin/startup.sh

tomcat2

复制代码 
vim /usr/local/tomcat/tomcat2/webapps/test/index.jsp
<%@ page language="java" import="java.util.*" pageEncoding="UTF-8"%>
<html>
<head>
<title>JSP test1  page</title>  
</head>
<body>
<% out.println("动态页面 1,http://www.test1.com");%>
</body>
</html>
 
 
vim /usr/local/tomcat/tomcat2/conf/server.xml
#删除前面的 HOST 配置
<Host name="localhost" appBase="webapps" unpackWARs="true" autoDeploy="true" xmlValidation="false" xmlNamespaceAware="false">
	<Context docBase="/usr/local/tomcat/tomcat2/webapps/test" path="" reloadable="true" />
</Host>
 
/usr/local/tomcat/tomcat2/bin/shutdown.sh 
/usr/local/tomcat/tomcat2/bin/startup.sh

3.Nginx进行负载均衡和动静分离设置

3.1.编写Nginx静态资源测试网页

复制代码 
vim /usr/local/nginx/html/index.html
<html>
<body>
<h1> this is Nginx static test !</h2>
<img src="test.png"/>
</body>
</html>

3.2.进行负载均衡和动静分离配置

复制代码 
vim /usr/local/nginx/conf/nginx.conf
......
http {
......
	#gzip on;
	
	#配置负载均衡的服务器列表，weight参数表示权重，权重越高，被分配到的概率越大
	upstream tomcat_server {
		server 192.168.80.102:8080 weight=1;
		server 192.168.80.102:8081 weight=1;
		server 192.168.80.103:8080 weight=1;
	}
	
	server {
		listen 80;
		server_name www.test.com;
	
		charset utf-8;
	
		#access_log logs/host.access.log main;
		
		#配置Nginx处理动态页面请求，将 .jsp文件请求转发到Tomcat 服务器处理
		location ~ .*\.jsp$ {
			proxy_pass http://tomcat_server;
#设置后端的Web服务器可以获取远程客户端的真实IP
##设定后端的Web服务器接收到的请求访问的主机名（域名或IP、端口），默认HOST的值为proxy_pass指令设置的主机名。如果反向代理服务器不重写该请求头的话，那么后端真实服务器在处理时会认为所有的请求都来自反向代理服务器，如果后端有防攻击策略的话，那么机器就被封掉了。
			proxy_set_header HOST $host;
##把$remote_addr赋值给X-Real-IP，来获取源IP
			proxy_set_header X-Real-IP $remote_addr;
##在nginx 作为代理服务器时，设置的IP列表，会把经过的机器ip，代理机器ip都记录下来
			proxy_set_header X-Forwarded-For $proxy_add_x_forwarded_for;
		}
		
		#配置Nginx处理静态图片请求
		location ~ .*\.(gif|jpg|jpeg|png|bmp|swf|css)$ {
			root /usr/local/nginx/html;
			expires 10d;
		}
		
		location / {
			root html;
			index index.html index.htm;
		}
......
	}
......
}

四.Nginx反向代理类型

1.七层反向代理设置

基于http、https、mail等七层应用协议的代理转发（根据用户访问请求的URL路径来转发请求），

通常用于 动静分离 等应用场景

1.1.配置

复制代码 
1）在http配置块中使用upstream定义后端服务器列表名称和节点参数
http {
    upstream 服务器池名称 {
        server IP1:PORT1 weight=1;
        server IP2:PORT2 weight=1;
        ......
    }


2）在server配置块中使用location匹配用户请求的动态页面的URL路径，使用 proxy_pass 基于协议代理转发
    server {
	    ......
	    location ~ .*\.jsp$ {
		    proxy_pass http://服务器池名称;
		    
			#用于为后端服务器获取真实的客户端地址
		    proxy_set_header HOST $host;
            proxy_set_header X_Real_IP $remote_addr;
            proxy_set_header X_Forwarded_For $proxy_add_x_forwarded_for;
		}
    ......
	}
......
}

2.四层反向代理设置

基于 IP 和 端口 实现的代理转发（根据用户请求的IP和端口来转发请求），通常用于做 网关访问

入口的负载均衡器 等应用场景

2.1.配置

复制代码 
1）编译安装时需要添加 stream 四层代理模块  ./configure --with-stream

2）在 http 配置块同层级，一般在 http 配置块上面添加 stream 配置块，在 stream 配置块里使用upstream定义后端服务器列表名称和节点参数以及使用server配置块定义监听端口和转发配置
stream {
    upstream 服务器池名称 {
        server IP1:PORT1 weight=1;
        server IP2:PORT2 weight=1;
        ......
    }

    server {
	    listen IP:PORT;
		proxy_pass 服务器池名称;
	}
}

http {....}

补充：

  • 四层反向代理 比 七层反向代理 转发性能更高于；
  • 七层反向代理 比 四层反向代理 转发功能更多、更灵活

3.Nginx的负载均衡模式（调度模式、调度算法、调度策略)

|-------------------------------|-----------------------------------------------------------------------------------------------------------|
| 轮询（round robin、rr） | 是nginx的默认调度模式，按照时间顺序逐一分配请求 |
| 加权轮询（weight round、wrr） | 使用weight参数设置权重，weight值越高的节点被分配请求的概率越大 |
| least_conn（最少链接、最小连接） | 优先将请求分配给当前连接数最少的节点 |
| ip_hash（源地址哈希） | 根据客户端IP做hash缓存调度，会将请求分配给固定的一个节点 |
| url_hash（目的地址哈希） | 根据客户端请求访问的URL路径做hash缓存调度，会将请求分配给固定的一个节点。需要另外安装第三方模块支持 |
| fdir | 优先将请求分配给响应时间最少的节点，需要另外安装第三方模块支持 |
| random | 随机分配请求 |
| hash nginx全局变量 consistent | 一致性hash算法，根据nginx全局变量的值来做hash缓存调度 （比如 hash $remote_addr consistent 根据客户端IP做hash缓存调度，是IP_hash的加强版） |

4.Nginx负载均衡会话保持

**作用：**简单说就是优化用户体验，降低网络开销

  • 如果有一个用户访问请求被分配到服务器A，并且在服务器A登录了，并且在很短的时间，这个用户又发出了一个请求，如果没有会话保持功能的话，这个用户的请求很有可能会被分配到服务器B去，这个时候在服务器B上是没有登录的，所以你要重新登录，但是用户并不知道自己的请求被分配到了哪里，用户的感觉就是登录了怎么又要登录，用户体验很不好上
  • 会话保持都会有时间的限制(映射到固定某一台的服务器除外工如:ip_hash),各种负载均衡工具都会提供这种会话保持时间的设置，LVS，apache等。连php语言都提供了会话保持时间的设定session.gc_maxlifetime会话保持时间的设定要大于session生存时间的设定，这样可以减少需要同步session的情况，但是不能杜绝。所以同步session还是要做的

5.Nginx会话保持实现方式

5.1.ip_hash 或 一致性hash算法

基于客户端IP做hash缓存将请求发送给同一个后端节点服务器来实现会话保持，但是此方法容易导

致负载失衡问题

复制代码 
语法:

upstream backend {
ip hash:
server backendl.example.com:
server backend2.example.com,
server backend3.example.com down:
server backend4.example.com:
}

基于cookie来来判断实现会话保持

复制代码 
语法:

upstream backend {
server backendl.example.com:
server backend2.example.com!
sticky cookie insert srv id expires=lh domain=3evip.cn path=/:
}

说明:
设置浏览器中保持cookie的时间expires.
domain:定义cookie的域
path:为cookie定义路径

5.3.使用后端服务器自身通过相关机制保持session同步

通过缓存数据库做session同步复制，使用后端节点服务器自身配置通过相关机制保持session同步

来实现会话保持

相关推荐
程序猿熊跃晖6 小时前
解决 MyBatis-Plus 中 `update.setProcInsId(null)` 不生效的问题
数据库·tomcat·mybatis
xujiangyan_7 小时前
nginx的反向代理和负载均衡
服务器·网络·nginx
WannaRunning11 小时前
浅谈Tomcat数据源连接池
java·oracle·tomcat
viqecel21 小时前
网站改版html页面 NGINX 借用伪静态和PHP脚本 实现301重定向跳转
nginx·php·nginx重定向·301重定向·html页面重定向
硪就是硪1 天前
内网环境将nginx的http改完https访问
nginx·http·https
兢兢业业的小白鼠1 天前
Java高级JVM知识点记录，内存结构，垃圾回收，类文件结构，类加载器
java·开发语言·jvm·tomcat
ak啊1 天前
Nginx 安全加固详细配置指南
nginx
chushiyunen1 天前
tomcat使用笔记、启动失败但是未打印日志
java·笔记·tomcat
H1346948901 天前
华为服务器系统备份，想要备份华为服务器系统可以怎么操作？
运维·服务器·负载均衡
杉之1 天前
SpringBlade 数据库字段的自动填充
java·笔记·学习·spring·tomcat
热门推荐
01我决定放弃搞 Java 了02DeepSeek各版本说明与优缺点分析03如何在WPS和Word/Excel中直接使用DeepSeek功能04RAG 实践- Ollama+RagFlow 部署本地知识库05本地化部署AI知识库：基于Ollama+DeepSeek+AnythingLLM保姆级教程06从零安装 LLaMA-Factory 微调 Qwen 大模型成功及所有的坑07如何本地部署AI智能体平台，带你手搓一个AI Agent08苍穹外卖面试总结09DeepSeek RAGFlow构建本地知识库系统10【芯片封测学习专栏 -- D2D 和 C2C 之间的区别】