讨论:无法访问不同网段的Kafka问题

问题

X同学:A网段的机器,访问B网段部署的Kafka集群,中间做了网络映射,映射成A网段可以访问的IP地址,A网段程序里配置bootstrap.servers就是这些可以访问的地址。但是最后发现还是无法访问,并且日志里看到了B网段的IP地址。请问怎么处理。

解决办法

kafka可以配置成注册的IP是公网IP:

listeners=INSIDE://<内网IP>:9092,OUTSIDE://<公网IP>:端口 advertised.listeners=INSIDE://内网IP:9092,OUTSIDE://<公网IP>:端口 listener.security.protocol.map=INSIDE:SASL_PLAINTEXT,OUTSIDE:SASL_PLAINTEXT inter.broker.listener.name=INSIDE

试试这个方案,行的话,就不用多做一层映射了。

进一步深入讨论此类问题

如果你们的网络映射配置的没错,那么感觉是跟redis cluster一样的问题。kafka集群的节点之间是使用的内网段地址进行交互,他们压根儿不知道有映射的这个外网地址。

解决问题的办法有几种,简单点的是:让client端的网络上再加一层转换,可以把kafka的内网IP解析成作了映射的外网IP。

更一般化的来看:两个机器A和B在不通的两个网段,IP分别为:10.1.1.101和10.1.2.102。现在想让A能访问B的端口9092。

为了实现这个目标我们已经实现了A和B同时都能访问P(IP 10.1.0.202),那么我们设置对于10.1.0.202:9092的映射转到B,即可实现A通过配置访问P来间接访问到B。

然后我们发现B在一个集群里,还有一个节点C IP为10.1.2.103,A请求B后,会拿到这个C的信息,也就是10.1.2.103,然后发起访问。这时候我们会发现A是无法访问C的,而且上面的办法也不能对C来使用,因为C的IP地址是B给的。

我们新增一个映射到C的IP 10.1.0.203,没地方修改成一个新的映射地址。此时,可以通过修改iptables规则,让A对于10.1.2.103的访问自动转到10.1.0.203。

iptables -t nat -A POSTROUTING -p tcp --dport 9092 -d 10.1.0.203 -j SNAT --to-source 10.1.2.103

类似这种,但是这个办法的一个不足之处是,所有访问的机器都要加这个路由条件。

这个问题的本质是,redis/kafka 集群不是被设计成跨不同的网络访问区来使用的。

相关推荐
YDS8294 小时前
黑马点评 —— 分布式锁详解加源码剖析
java·spring boot·redis·分布式
hashiqimiya4 小时前
windows的hadoop集群环境直接配
大数据·hadoop·分布式
小江的记录本5 小时前
【Redis】Redis全方位知识体系(附《Redis常用命令速查表(完整版)》)
java·数据库·redis·后端·python·spring·缓存
程序猿ZhangSir9 小时前
详解了解 Redis IO多路复用底层原理,Select,poll,epoll三者的区别?
数据库·redis·缓存
编程之升级打怪9 小时前
用Python语言实现简单的Redis缓冲数据库驱动库
redis·python
SadSunset9 小时前
第一章:Redis 入门介绍
数据库·redis·缓存
guoji778810 小时前
ChatGPT镜像站实战:从零设计高可用分布式任务调度系统
分布式·chatgpt
半桶水专家12 小时前
Kafka 4.0.1 KRaft 模式完整部署指南
分布式·kafka·linq
Arthas21712 小时前
互联网大厂Java面试实录:谢飞机的电商微服务之旅 - Spring Boot/Cloud/Redis/Kafka实战
spring boot·redis·spring cloud·微服务·kafka·java面试·电商
IAtlantiscsdn12 小时前
Redis面试题总结
数据库·redis·缓存