nodejs的express负载均衡

我们知道nodejs是单线程的,在特定场合是不能利用CPU多核的优势的。一般有两种方式来解决,一种是利用nodejs的cluster模块创建多个子进程来处理请求以充分利用cpu的多核,还有一种是nodejs运行多个服务分别监听在不同的port,利用nginx创建一个upstream池,来分发请求到nodejs的不同服务端口来处理。

由于我们是要负载均衡express,涉及到用户的会话保持就很重要,不然原先建立请求的是进程A,下次请求转到进程B处理,进程B没有之前用户在进程A的上下文信息,那么处理就会出现问题。

cluster方式下,推荐使用redis来存储会话

javascript 复制代码
var jargs = require('./argsfile.json');
const { createClient } = require('redis');
const client = createClient({ url: jargs.redisurl });
client.on('error', err => { logger.error("Redis连接出错"); });
client.connect();
const { RedisStore } = require('connect-redis-session');
...
app.use(session({
	name: jargs.sessionname,
	secret: jargs.ssosecret,
	store: new RedisStore({ client }), 
	saveUninitialized: true,
	resave: true,
	cookie: { httpOnly: true, maxAge: jargs.sessionage }
	}));

这样会话保存在redis中,不同进程可以共享session信息。

用户nginx upstream池怎么操作呢?其实也可以用redis来共享session的,还可以利用nginx自己的ip_hash策略来确保用户请求源IP固定的情况下,只会连接到upstream池中特定后端目标,这样也不会导致会话丢失。

lua 复制代码
	upstream svc_pool {
		ip_hash;
		server 172.17.36.50:8031;
		server 172.17.36.50:8032;
		server 172.17.36.50:8033;
		server 172.17.36.50:8034;
		server 172.17.36.50:8035;
		server 172.17.36.50:8036;
		server 172.17.36.50:8037;
		server 172.17.36.50:8038;
		}
相关推荐
meilindehuzi_a6 小时前
全栈 AI 必修课:基于 Node.js 与 LLM 的渐进式提示词工程实践
人工智能·node.js·prompt
不好听6137 小时前
Prompt 驱动 NLP:用大语言模型重新定义自然语言处理开发范式
设计模式·node.js·nlp
触底反弹7 小时前
大模型时代:5 个 Prompt 替代 BERT 训练,搞定 NLP 五大任务
人工智能·node.js·api
甜味弥漫9 小时前
React 快速入门:从 JSX 到列表渲染
react.js·前端框架·node.js
辰_砂10 小时前
国产服务器操作系统编译nginx生成rpm包
运维·nginx
遇见小修修13 小时前
选择诚信上门修电脑服务,应参考哪些判断标准?
服务器·电脑·负载均衡
用户9385156350716 小时前
从模块化到 Prompt 工程:我用 Node.js + LLM 复刻了传统 NLP 的流程
javascript·人工智能·node.js
妖孽白YoonA16 小时前
xlt-token v1.0.0 正式发布:NestJS / Express 一包接入的 Token 鉴权库
后端·node.js·nestjs
唔6616 小时前
(一)一套完整的自动化脚本,一键搭建5节点负载均衡集群
运维·自动化·负载均衡
finyouIT1 天前
限制国外ip访问网站
nginx