技术栈
负载均衡
2601_96207633
10 小时前
spring cloud
·
架构
·
负载均衡
Spring Cloud 负载均衡器架构选型
优质博文:IT-BLOG-CN我们这次项目主要从RestTemplate 和 Feign 进行选型分析。### 一、Spring Cloud Feign分析> Feign是另外一种客户端负载均衡实现。我在该模块写了Feign Client的示例代码。 【1】spring-cloud-web-demo-api为服务的sdk模块 【2】spring-cloud-web-demo-service为提供接口服务的模块 【3】spring-cloud-web-demo-client为模拟调用服务的模块首先在spri
EDPJ
1 天前
llm
·
负载均衡
·
大语言模型
·
moe
(2024|DeepSeek & 北大,Loss-Free Balancing,每专家偏置,QB)MoE 的无辅助损失负载均衡策略
论文地址:https://arxiv.org/abs/2408.15664ICLR 2025:https://openreview.net/forum?id=y1iU5czYpE
2601_96679904
2 天前
运维
·
服务器
·
负载均衡
酷嗨米J300:一台相机同步推三平台
矩阵直播已成为品牌全域引流的标配动作——抖音、视频号、淘宝,同一个直播间同时覆盖三个平台,触达不同画像的消费群体。但同步推流的技术实现方式,直接决定了这场直播是顺畅高效,还是状况频出。
小谈不敲代码
2 天前
云原生
·
kubernetes
·
gateway
·
负载均衡
·
higress
Higress 生产级调优手册
根据峰值 QPS、路由规则数、后端服务数三个维度确定档位,取三者中最高档。所有组件 request = limit(Guaranteed QoS),避免 Burstable 调度抖动。
味悲
3 天前
运维
·
https
·
负载均衡
HAProxy 负载均衡实战:从环境搭建到七层/四层/HTTPS 全解析
先用一个比喻理解负载均衡:一家餐厅生意火爆,门口排长队,老板于是招了 3 个服务员。可客人进门只认"这家店",不会认服务员。这时候店里需要一位大堂经理:客人进门,经理按"谁空就派给谁"的原则,把客人分给 3 个服务员中的一个。
hh950
4 天前
运维
·
分布式
·
负载均衡
·
adg
·
agent plan
·
adg成都社区
Agent Plan x DeepSeek Harness:分布式Agent集群调度与负载均衡
随着人工智能技术的飞速发展,大语言模型(Large Language Model, LLM)在各个领域展现出了强大的能力。从自然语言理解到代码生成,从数据分析到创意写作,LLM正在重塑我们与计算系统交互的方式。然而,单一的LLM实例在处理复杂任务时仍然存在诸多局限:上下文窗口有限、推理能力受限、无法并行处理多个请求、单节点计算资源瓶颈等。
云飞云共享云桌面
5 天前
运维
·
服务器
·
3d
·
自动化
·
负载均衡
机械企业三维设计优化:一台高性能 SolidWorks 服务器满足 10 人建模需求
机械制造企业 10 人规模 SolidWorks 研发团队,传统一人一机图形工作站模式弊端突出。硬件采购投入高,大部分时间算力闲置,硬件利用率不足 30%;新旧设备性能参差不齐,打开大装配体、仿真运算容易卡顿;图纸分散存储在工程师本地,版本混乱,存在泄密、丢失风险;多台工作站软件环境不统一,模板、标准件库不一致,装配报错返工频发,IT 运维工作量大。
XLYcmy
9 天前
llm
·
负载均衡
·
强化学习
·
多模态
·
ppo
·
dpo
·
grpo
小红书 算法一面 十二
在 **MoE(混合专家模型)** 场景中,**负载均衡** 是指**门控网络将输入 token 均匀分配给各个专家子网络**,使得每个专家接收的计算任务量(token 数量、计算开销)保持相对均衡,避免出现“热门专家过载、冷门专家闲置”的现象。
-今昭-
6 天前
运维
·
hadoop
·
hdfs
·
负载均衡
Hadoop HDFS 高可用实战指南
目录ZooKeeper 集群部署指南1. 环境准备与规划2. 软件安装与配置3. 集群节点配置4. 启动集群与状态验证
章老师说
7 天前
人工智能
·
ai
·
开源
·
负载均衡
·
ai-native
壬远 AI 网关 v0.4.0 正式发布:模型定价、RMB 配额与多 Key 路由,让企业级 AI 流量治理再进一步
GitHub Release:https://github.com/rainway-ai-gateway/ai-gateway/releases/tag/v0.4.0
XUEYUAN5212
7 天前
tcp/ip
·
算法
·
负载均衡
IP 池调度算法实战:代理池负载均衡、健康检查与失效剔除机制(2026)
在数据采集、跨境电商运营、海外社媒管理等业务场景中,代理 IP 是不可或缺的基础设施。很多开发者都会遇到一类共性问题:手上手握大量代理 IP,但调度策略不合理,出现单个 IP 高频访问被封禁、失效 IP 反复发起失败请求、多任务抢占同一个 IP 引发并发超限等现象。
mengge.cloud
7 天前
linux
·
运维
·
网络
·
oracle
·
负载均衡
·
mariadb
·
lvs
0823Keepalived + LVS(DR) + MariaDB主主 小白完整实战教程
整套架构:四层负载均衡LVS‑DR + Keepalived实现调度器主备高可用 + MariaDB双主互备复制,实现数据库无间断对外服务,企业常用数据库高可用方案。 整体流程:客户端连接VIP访问数据库 → Keepalived+LVS做四层调度,分发请求到两台MariaDB;数据库双向主主复制保证两边数据一致;任意一台调度器/数据库故障自动切换,业务无感知。
mengge.cloud
8 天前
linux
·
运维
·
服务器
·
负载均衡
·
lvs
LVS 小白完整教程(Linux虚拟服务器负载均衡)
LVS全称 Linux Virtual Server,章文嵩博士1998年开源开发,工作在内核层,性能极高,用来把多台后端服务器包装成一台虚拟对外服务的集群。 LVS = ipvs(内核模块,真正干活) + ipvsadm(命令行管理工具,没有配置文件,全部靠命令操作)。
Zguigo
8 天前
网络
·
计算机网络
·
负载均衡
lesson27-29计算机网络第三章精讲:交换机与VLAN的工作原理、区别与实战应用
假设:有四台电脑。如果:没有交换机。是不是:谁也不能通信?于是:把大家连起来。这样:所有电脑:都能通信。
XLYcmy
9 天前
google
·
meta
·
llm
·
负载均衡
·
token
·
moe
·
glam
小红书 算法一面 十一
# 基于MoE的模型架构全景解析MoE(混合专家模型)核心思想是**将模型总参数量与单次推理计算量解耦**,通过稀疏激活专家子网络实现高效扩展。以下按时间线与创新维度,系统介绍主流MoE架构的设计特点、核心突破与适用场景。
-今昭-
10 天前
运维
·
负载均衡
MFS高可用负载均衡
基于 iSCSI 共享块存储的 Pacemaker 主备高可用服务本文旨在构建一个结合了 Pacemaker 高可用集群 与 iSCSI 共享块存储 的完整高可用解决方案。该方案的核心目标是为上层应用(例如 MooseFS 元数据服务器)提供一个稳定、可靠且具备故障自动切换能力的基础架构。
ly7689
12 天前
nginx
·
负载均衡
·
lvs
负载均衡详解:从四层、七层到 LVS、Keepalived、Nginx 与 HAProxy
在单体应用的早期阶段,一台服务器通常就能处理全部请求。随着用户量、并发量和数据规模不断增长,单机逐渐会遇到 CPU、内存、网络带宽、连接数等方面的瓶颈。
码云骑士
13 天前
运维
·
python
·
负载均衡
110-多模型热切换-API网关-LiteLLM代理-负载均衡故障转移
📖 文章简介: 本文系统讲解多模型统一网关的架构设计,解决"团队同时维护Llama3、Qwen2、DeepSeek多个模型,业务方调用混乱"的治理难题。文章从单模型服务的三个规模化痛点切入——每个模型一套接口业务方疲于适配、某个模型挂了整个业务停摆、各家费用散落无法统一核算;随后给出统一网关的四大核心能力:模型路由策略(按模型名显式路由、按任务类型自动路由、按成本/延迟加权路由三种模式与适用场景)、负载均衡(同模型多实例间的轮询与最少连接策略,配合vLLM多副本部署)、故障转移(超时/5xx自动切换备选
-今昭-
14 天前
运维
·
负载均衡
HAProxy 负载均衡部署
本节将演示如何使用 Ansible 自动化部署 HAProxy 负载均衡器,并结合 Apache Web 服务器实现后端服务的负载均衡。我们将通过配置主机清单、编写 Playbook 以及使用 Jinja2 模板动态生成 HAProxy 配置文件来完成整个部署流程。
COOLMO研究AI
15 天前
人工智能
·
python
·
负载均衡
Python 如何实现 AI API 的动态路由与多通道负载均衡:多账号与多供应商的高可用调度
在开发 AI 工具、自动化系统或聚合网关时,当单个 API 供应商的额度耗尽、发生限流或网络中断时,如果整个系统直接瘫痪,用户体验就会大打折扣。本文介绍如何在 Python 中实现多通道动态路由与负载均衡,保障 AI 服务的高可用。