grpc的负载均衡

grpc的负载均衡分为client-side load balance和server-side load balance。

所谓的"客户端负载均衡"是指++主调方++ 调用++被调方++的时候,在grpc.DialContext里需要指定grpc.WithDefaultServiceConfig,这个DefaultServiceConfig默认是用pick-first策略。也支持round robin策略,需要指定。同时也可以自定义一个实现了balancer.Builder接口的策略,比如"一致性哈希"策略。

所谓的"服务端负载均衡"是指++主调方++ 不用管这些调用细节,不用管请求会落到哪个socket上。在++主调方++ 与++被调方++ 之间会有一个中间件 ,用于服务发现和转发,比如nginx,envoy,istio,都可以。对于++主调方++ 只管把请求打到中间件上,中间件会挑选一个++被调方++的实例响应请求。

相关推荐
人工智能训练4 小时前
【极速部署】Ubuntu24.04+CUDA13.0 玩转 VLLM 0.15.0:预编译 Wheel 包 GPU 版安装全攻略
运维·前端·人工智能·python·ai编程·cuda·vllm
微露清风6 小时前
系统性学习Linux-第二讲-基础开发工具
linux·运维·学习
阳光九叶草LXGZXJ6 小时前
达梦数据库-学习-48-DmDrs控制台命令(同步之Manager、CPT模块)
linux·运维·数据库·sql·学习
小二李8 小时前
第11章 nestjs服务端开发:登录鉴权
运维·服务器
i建模8 小时前
如何在Arch Linux中重设忘记的root密码
linux·运维·服务器
chatexcel9 小时前
元空AI+Clawdbot:7×24 AI办公智能体新形态详解(长期上下文/自动化任务/工具粘合)
运维·人工智能·自动化
kida_yuan9 小时前
【Linux】运维实战笔记 — 我常用的方法与命令
linux·运维·笔记
何中应11 小时前
vmware的linux虚拟机如何设置以命令行方式启动
linux·运维·服务器
江畔何人初12 小时前
kubernet与docker的关系
linux·运维·云原生
bubuly12 小时前
软件开发全流程注意事项:从需求到运维的全方位指南
大数据·运维·数据库