技术栈
kserve
平凡小代
20 天前
kserve
KServe 架构学习笔记：控制平面、数据平面与模型服务 CRD
KServe 是 Kubernetes 上的模型服务平台。它的核心价值不是单纯帮我们启动一个 Pod，而是把“模型服务”抽象成 Kubernetes 自定义资源，让用户用声明式 YAML 管理模型服务的生命周期。
ん贤
1 个月前
云原生
·
kserve
KServe 部署教程（CPU版）
大家都知道：但是到了“生产部署”阶段，必须先面对一个现实问题：我当前使用的是 kubeadm + VMware 搭建 Kubernetes 集群，虚拟机里只有 虚拟显卡，没有真实 NVIDIA GPU。
一个向上的运维者
5 个月前
llm
·
gateway
·
istio
·
kserve
基于k8s的KServe 控制平面生产级部署最佳实践：基于 Gateway API 的标准化流量管理方案
KServe控制平面负责管理推理服务的生命周期，与Kubernetes API协同工作，处理资源编排，并提供自动扩缩容能力。它作为KServe平台的核心，确保模型服务工作负载能够根据需求正确部署、监控和扩缩容。
我是有底线的