技术栈

keda

linweidong
22 天前
分布式·容器·kubernetes·ray·keda·autoscaling·ray推理
解锁 Ray 在 Kubernetes 上的弹性伸缩:打造高效、稳定的分布式作业Ray 的核心魅力在于它的分布式任务调度和 Actor 模型,适合处理动态负载的机器学习训练、推理或大数据处理任务。然而,云上 Kubernetes 环境中的资源管理是个复杂命题:节点资源有限,负载波动频繁,手动调整集群规模显然不现实。Autoscaling 就像给 Ray 装了个智能油门,能根据任务需求动态调整资源,既省钱又高效。
nangonghen
8 个月前
redis·消息队列·kubernetes·hpa·keda
华为云kubernetes基于keda自动伸缩deployment副本(监听redis队列长度)KEDA(Kubernetes-based Event-Driven Autoscaler,网址是https://keda.sh)是在 Kubernetes 中事件驱动的弹性伸缩器,功能非常强大。不仅支持根据基础的CPU和内存指标进行伸缩,还支持根据各种消息队列中的长度、数据库中的数据统计、QPS、Cron 定时计划以及您可以想象的任何其他指标进行伸缩。KEDA支持的所有scaler,可从如下网址里查询:
我是有底线的