负载均衡

EDPJ5 小时前
llm·负载均衡·大语言模型·moe·推测解码(sd)
MoE 与推测解码(Speculative Decoding)加速:为什么慢、什么时候慢、怎么让它不慢?学术交流群:922230617目录0. 引言0.1 基础0.1.1 算法机制0.1.2 工程实现0.1.3 模型架构
JiMoKuangXiangQu1 天前
linux·负载均衡
Linux CFS 负载均衡:从 CPU 拓扑到任务迁移本文分析 Linux CFS 负载均衡,源码以开源的 linux-sunxi-4.14.y(VERSION=4 PATCHLEVEL=14 SUBLEVEL=111)为准。文中代码片段直接摘自该源码树,只做了删减(略去统计计数 schedstat_*、NUMA 分支、与主干无关的错误处理),不改写逻辑。另外,本文只分析对称多处理(SMP)的普通多核,不展开 NUMA。
我不会起名字3223 天前
微服务·负载均衡·grpc·长连接
负载均衡选错:轮询在长连接下的偏斜问题我不会起名字322 · 后端 / 算法 / 数据库📘 技术栈 | 🧩 力扣 Hot100 | 🐹 Go 项目 | 🟥 Redis | 🐬 MySQL
。4 天前
linux·服务器·负载均衡·lvs
【无标题】适用对象:完全没有接触过负载均衡/高可用的读者。 配套环境:三台 Ubuntu 服务器(192.168.1.5 / .6 / .7),虚拟 IP 192.168.1.123,网卡名 enp1s0。 阅读方式:从头往下读。每一章都建立在前一章之上,跳读会有障碍。 术语约定:正文中首次出现的关键名词用「」标注,附录 A 有完整术语字典可随时回查。
果霸大叔4 天前
人工智能·算法·自然语言处理·负载均衡·ai-native
AI网关第8篇:AI 代理与负载均衡--多模型实例如何调度?上一篇结尾我留了个钩子:请求走完 rewrite、access 阶段后,要进入"转发"这一步——把请求真正发给上游模型。
骑着蜗牛撵大象32710 天前
android·tcp/ip·负载均衡·tcp·高可用·健康检查·优雅关闭
服务下线不再炸:分层关闭、TCP 存活探测与负载均衡排水的落地套路在滚动发布、机房缩容、宿主机维护这些日常操作里,停机那一两秒最容易出事故:请求被派到正在关闭的实例、TCP 连接悬在半空、下游资源被提前释放导致回源报错。日志里常见的现象是「重启后偶发 502」,却很难说清是哪一层出的问题。
螺蛳粉 螺蛳粉11 天前
运维·负载均衡·lvs·keepalived·高可用
第五篇:Keepalived + LVS 四层负载均衡高可用实战:DR 模式全流程Keepalived 不只是"VIP 漂移工具"——它天生就是为 LVS(Linux Virtual Server)设计的。很多人不知道,Keepalived 的看家本领就是管理 LVS 集群,实现四层负载均衡 + 高可用的一体化方案。
积流成海12 天前
算法·负载均衡·哈希算法·哈希函数·盘子工具站
一致性哈希原理与实现:分布式系统负载均衡后端面试高频题:"什么是一致性哈希?为什么需要它?"用取模哈希把数据分到多台服务器上不行吗?节点增减时为什么会全量迁移?本文从问题出发,一步步推导出一致性哈希的设计思路,最后给出完整代码实现。
一条大祥脚14 天前
运维·负载均衡
【CS336】lecture4 MoE|负载均衡|MoE并行|训练稳定性|Deepseek回顾MoE的训练关键是路由层,但关键问题是路由层是不可微分的,无法反向传播,有三种解决方法RL理论上有效,但实验中和另外两种baseline比,没有明显的优势
IanSkunk14 天前
服务器·数据库·负载均衡
从检查设备到训练方案:眼科与视光中心设备联动的数据通路、字段口径与校验规则2018年,教育部等八部门印发《综合防控儿童青少年近视实施方案》,把「筛查—建档—干预—随访」确立为一条完整的工作链条。这条链条落到机构的信息系统里,本质是一段数据流:从一台检查设备的结果输出,到一份可执行的训练方案,中间要经过若干次归属确认、口径转换与人工判断。
螺蛳粉 螺蛳粉15 天前
网络·智能路由器·负载均衡·keepalived·高可用
第二篇:keepalived VRRP 原理篇:协议与 VIP 漂移机制深入解析很多运维朋友都用过 Keepalived,知道它能做高可用、能漂移 VIP,但对它"为什么能漂移"、VRRP 报文里到底传了什么、主备是怎么选举的,往往一知半解。
螺蛳粉 螺蛳粉15 天前
运维·nginx·负载均衡·keepalived·高可用
第一篇:Keepalived 高可用实战:VIP 漂移与 Nginx 主备切换完整指南Keepalived 是一款运行在 Linux 下的高可用(HA)管理软件,基于 VRRP(Virtual Router Redundancy Protocol,虚拟路由冗余协议) 实现。它的核心作用是:通过一组服务器对外提供一个虚拟 IP(VIP),当主节点故障时,备用节点自动接管这个 VIP,实现服务的故障自动转移,从而保证业务不中断。
吴声子夜歌16 天前
运维·nginx·负载均衡
Nginx应用与运维——Nginx负载均衡应用实战(二)当客户端通过浏览器访问HTTP服务器时,HTTP请求会通过TCP协议与HTTP服务器建立一条访问通道,当本次访问数据传输完毕后,该TCP连接会立即被断开,由于这个连接存在的时间很短,所以HTTP连接也被称为短连接。在HTTP/1.1版本中默认开启Connection: keep-alive,实现了HTTP协议的长连接,可以在一个TCP连接中传输多个HTTP请求和响应,减少了建立和关闭TCP连接的消耗和延迟,提高了传输效率。网络应用中,每个网络请求都会打开一个TCP连接,基于上层的软件会根据需要决定这个连接
Wang's Blog16 天前
java·nginx·负载均衡
Java 项目实战: 外卖平台优化-Nginx六种负载均衡策略对比与选型Nginx 提供的负载均衡策略,把六种策略逐个拆开:否是是能不能否是否是否选择负载均衡策略后端机器性能是否一致?
Thomas.Sir17 天前
spring cloud·负载均衡
第13课:Spring Cloud LoadBalancer 新版负载均衡核心原理适配版本:Spring Cloud 2025.1.3(Oakwood)、Spring Boot 4.0.8、Spring Cloud Alibaba 2025.1.0.0、Nacos Server 3.1.1、JDK 21 课程定位:服务通信阶段开篇,从Ribbon淘汰讲到新版LoadBalancer架构,掌握负载均衡底层原理与算法实战
苦瓜不会码代码17 天前
运维·负载均衡
负载均衡会话保持-扩容后登录掉线踩坑背景:单节点跑得好好的业务,扩成 2 个应用节点后,用户反馈"刚登录就掉线"“点两下又跳登录页”。折腾了半天才发现:不是应用有 bug,是负载均衡把同一个用户的后续请求甩给了另一台机器。
涵美女程序猿20 天前
运维·程序人生·电脑·负载均衡
ChatCut online 剪负载均衡健康检查演练录屏:后端池、探针路径与摘除阈值怎样对应负载均衡健康检查演练录屏常连续切多个后端池,控制台布局接近时,上一池的探针路径会被接到下一池的摘除。只留成功绿灯,后端池和阈值就会错位。编辑这类素材时,可输入 chatcut online 查找 ChatCut,用提示词建立候选多轨时间线,再逐项回到原始录屏确认后端池。这类录屏适合按演练步骤切条,不适合把不同池的探针结果顺接成一次通过。
阿狗童鞋21 天前
运维·nginx·负载均衡
Nginx反向代理与负载均衡实战指南Nginx 是 Web 架构中的"万能胶水":反向代理、负载均衡、静态资源、HTTPS、限流、缓存、灰度发布,一个它全包了。本文从安装配置讲起,覆盖反向代理、负载均衡、动静分离、HTTPS、限流、常见坑,全程带配置,可直接抄。
微三云生态系统架构师-彭丹22 天前
运维·负载均衡·物业管理·调度算法·工单系统·智能派单·智慧物业
智慧物业工单智能派单算法:技能匹配与位置负载均衡设计本文从系统架构视角拆解智慧物业工单智能派单系统。传统物业靠人工调度派单,效率低、响应慢。智能派单根据工单类型匹配维修人员技能标签,结合地理位置就近分配和当前负载均衡,自动派单到最优工程师。文章给出工单模型、工程师技能画像、派单算法、SLA超时提醒四个核心模块的数据结构与处理流程,供做智慧物业、社区运维、售后服务系统开发的技术团队参考。## 背景与痛点大家好,我是微三云生态系统架构师彭丹,每天带你洞察行业新风口,拆解爆款新模式。业主报修"家里漏水",物业客服人工判断该派水电工还是木工,再打电话问谁有空,一来
萧瑟余晖22 天前
架构·负载均衡·dubbo
Dubbo 集群容错与负载均衡详解定位:Dubbo 目录第 04 篇(治理能力篇),讲透集群层的容错策略、负载均衡算法、路由规则、降级 Mock 与超时重试——这是面试考察最密集的一篇 适用版本:Dubbo 3.x(JDK 8+/17)