一、传统网关架构的局限性
在分布式系统发展的早期阶段,Nginx 凭借其高性能和轻量级优势,一度成为互联网公司搭建反向代理与负载均衡的标配。
不少人对 Nginx 的**事件驱动模型(异步非阻塞 I/O)**赞不绝口,得益于 C 语言的高效实现,它可以稳定支撑高并发场景(10 万级别的请求也不在话下)。

不过随着微服务理念的普及和云原生架构的兴起,业务规模不断扩大,Nginx 在网关层面的一些短板也逐渐凸显:
- 配置静态化
大家都知道,Nginx 的配置文件是"读配置文件---加载到内存---启动服务"的模式。
每次添加或移除后端服务时,都需要手动修改配置并重启进程,没办法像 Kubernetes 或 Spring Cloud 体系那样实现实时感知服务变动。
- 功能单一
虽然我们可以通过 Lua 脚本扩展 Nginx,但无论是鉴权、熔断、动态路由还是其他高级流量控制手段,都需要自己写脚本、调试脚本,运维成本不小。
加上很多人对 Lua 并不熟悉,就更麻烦了。
- 生态割裂
在微服务时代,常见的服务注册中心(Eureka、Consul、Nacos 等)都希望能自动感知服务的上下线状态,并动态调整路由。但由于 Nginx 与这些微服务框架紧密集成并不方便,要想无缝对接,往往要"另起炉灶"。
Nginx 依旧是一个出色的通用型反向代理,但在场景越来越复杂的今天,它有点"跟不上"微服务和云原生的节奏了。
二、微服务与云原生下的网关演进需求
当下,大数据与搜索场景越来越普及,例如 Elasticsearch
、Easysearch
等常用组件在日志分析、搜索推荐以及数据处理领域扮演重要角色。
传统网关在面对这类"高并发+大数据处理"的环境时会遇到新挑战:
- 性能瓶颈
对于大规模的索引写入场景(比如 TB 级别的数据实时进入 ES),Nginx 的同步阻塞模型和有限的扩展能力可能会遇到极限,导致吞吐量上不去,或者响应延迟飙升。
- 业务耦合性
微服务时代,不仅要转发流量,还要对特定请求进行个性化处理,如对某个索引做限速、对查询结果做实时的定制化修改等。
这些需求其实已经超出了传统网关"转发就完事儿"的职责范畴,需要更灵活、更智能的流量治理方式。
- 运维复杂度
大规模集群部署下,我们可能有好几个甚至十几个 ES 集群,要根据业务或地理位置分配流量,还要做统一的路由策略管理。每次都去改配置文件或写脚本会累死人,还容易出错。
基于这些需求,网关从"简单的流量入口"逐渐进化为"智能的流量治理中心 "。这时候,一种更加贴合 Elasticsearch/OpenSearch/Easysearch 等搜索场景的专业级网关应运而生------INFINI Gateway(也称极限网关)。
GitHub地址:https://github.com/infinilabs/gateway
中文文档:
https://docs.infinilabs.com/gateway/main/zh/docs/getting-started/configuration/
三、INFINI Gateway 的核心架构设计
INFINI Gateway 主要面向搜索引擎(Elasticsearch /OpenSearch /Easysearch)场景,部署在客户端与搜索集群之间。
它不只做简单的流量转发,还在索引写入和查询请求层面做了大量优化和管理手段,比如索引级限速、查询加速、故障切换等,提升系统整体稳定性与性能。

下面我们来看看它的主要特性:
- 高可用架构
-
不间断索引写入
在 Elasticsearch 或 OpenSearch 集群中,某个节点挂掉是家常便饭。INFINI Gateway 可以自动检测后端集群节点健康状况,如果发现某个节点故障,会自动把新请求分配给其他健康节点,保证数据持续正常写入,不会出现长时间卡顿。
-
智能重试
当查询请求因为集群网络抖动或节点故障而失败时,网关会自动执行跨集群或跨节点的重试逻辑。这样可以避免因为单点故障就让用户的搜索请求白跑一趟,从而提升服务的连续性。

- 性能优化
- 写入加速
对于高频索引写入场景,INFINI Gateway 可以把多个小的索引请求合并成批量请求,一次性提交给后端集群。

这样能显著减少后端的连接和处理开销,让写入性能最高提升 5 倍。不少实时日志分析场景(每秒几万到几十万的写入量)都能大大受益。
-
查询加速
针对 Kibana 等可视化看板的查询需求,INFINI Gateway 提供了多级缓存策略,包括内存缓存和磁盘缓存。
常见的"重复查询"或"数据在短时间内更新不频繁"的场景下,直接命中缓存就可以快速返回,查询延迟能降低 60% 以上。
- 流量治理
-
精准路由
网关内置多种负载均衡算法,如轮询(Round-Robin)、最少连接(Least Connections)等,可以根据不同索引或不同请求类型(写入/查询)设置不同的负载策略。
比如:写入流量优先给资源更空闲的节点、查询流量则可以做轮询,让所有节点都负担一些查询压力。
-
流量克隆
在多集群环境下,INFINI Gateway 可以把请求"复制"一份到另外一个集群做测试(常称为流量镜像或流量克隆),方便用低风险的方式去验证新版本集群或新索引结构。
也可以用来做canary 发布,小流量先跑新版本,效果好就逐步扩大。
- 流量控制
大规模集群最怕的就是"被一波洪水一样的请求冲垮"。INFINI Gateway 可以对单个索引或全局做 QPS 限制,也能限制并发连接数。
这样在遇到流量高峰时,可以及时让多余请求排队或返回限流提示,保护后端集群平稳运行。
- 运维增强
-
一键重建
除了流量治理,INFINI Gateway 还提供"高速索引重建引擎",可一键触发新索引构建,同时自动同步增量数据。
等新索引就绪后,再平滑切换到新索引,真正实现无缝衔接。
-
安全传输
内置对 TLS/HTTPS 的支持,可以自动生成证书文件,也能灵活指定可信 CA。
这样就不用自己额外去折腾各种 SSL 证书配置,安全需求也得到保障。
-
双活容灾
基于虚拟 IP 的 HA 方案能让两个网关节点做热备,主节点宕掉时,系统可在 500ms 以内完成故障切换,对外提供稳定服务。
- 可观测性
-
全链路追踪
网关不仅记录日志,还能把各种指标上报到 Prometheus,配合可视化工具(Grafana 等)就能监控到每个请求的耗时、错误率、节点负载情况。
对于排查问题、优化性能非常有帮助。
-
可视化分析
与 Kibana/Grafana 等工具结合,你可以在图表上直观看到当前索引的写入速度、缓存命中率、失败率等指标,方便做容量规划和问题诊断。



kibana 8.15版本集成可视化展示模块(自己参考极限官网文档导入)
总结
从 Nginx 到 INFINI Gateway,其实是网关在微服务和云原生浪潮下的必然演进。在过去,Nginx 更像是一个"流量转发器";而现在,INFINI Gateway 成为了"智能流量治理中枢",在性能、稳定性、灵活度和运维可观测性等方面都有了质的提升。
对于需要处理大量实时写入和复杂检索的搜索场景来说,INFINI Gateway 无疑是一个更适合的选择。它不仅能解决 Nginx 时代"动态感知不足、扩展能力有限、与微服务生态割裂"的痛点,还能为 Elasticsearch、OpenSearch、Easysearch 这些后端搜索集群带来一套完善的高可用、性能优化及运维管理方案。
如果你的业务场景也面临相似挑战(比如 TB 级数据、超高查询并发或者频繁变更索引结构),不妨考虑一下 INFINI Gateway,相信它会让你的搜索集群从"够用"变成"好用又稳当"。
欢迎留言交流
如果在使用 Nginx 或其他网关时有遇到什么坑,或者对 INFINI Gateway 的部署细节、配置方式感兴趣,欢迎一起探讨交流。
让我们携手把搜索和大数据相关的业务做得更高效、更稳定!
极限网关------一个面向Elasticsearch的高性能应用网关
如何防止 Elasticsearch 服务 OOM ?极限网关来为你的 ES 服务保驾护航!
Elasticsearch 国产化替代方案之一 Easysearch 的介绍与部署指南
读者留言:有 Elasticsearch 国产化替代品吗?现在国产化不让用 ES 了......
Elasticsearch 性能测试工具 Loadgen 之 001------部署及应用详解
Elasticsearch 性能测试工具 Loadgen 之 002------命令行及参数详解
Elasticsearch 性能测试工具 Loadgen 之 003------断言模式详解
Elasticsearch 性能测试工具 Loadgen 之 004------高级用法示例

更短时间更快习得更多干货!
和全球超2000+ Elastic 爱好者一起精进!
elastic6.cn------ElasticStack进阶助手

抢先一步学习进阶干货!