kubernetes

数据智能老司机30 分钟前
kubernetes·llm
Kubernetes 上的生成式 AI——模型定制化从零开始训练一个 LLM,需要大量计算资源和专业能力,而这是大多数组织都不具备的。本章不会讨论如何从头创建模型,而是聚焦于:如何针对你的具体用例,对一个已有的 LLM 进行定制化。我们将介绍几种常见的调优技术,以及在 Kubernetes 上可用于实现和部署相应训练任务的相关技术。首先,我们先简要看看 LLM 是如何被创建出来的,以及“模型定制”在整个流水线中处于什么位置。
数据智能老司机1 天前
kubernetes·llm·agent
Kubernetes 上的生成式 AI——模型数据在 Kubernetes 上运行 LLM 时,最根本的挑战之一,就是如何管理体量巨大的模型数据。LLM 的大小从几 GB 到接近 1 TB 不等,而要高效地把这些数据引入集群、并让运行时能够访问它们,就必须进行审慎设计。
数据智能老司机1 天前
kubernetes·aigc
Kubernetes 上的生成式 AI——部署模型当真实数据由于隐私法律或合规要求而不能离开你自己的集群,或者你需要对模型部署与性能拥有更强控制力时,就有必要在自己的集群内运行模型。
Java陈序员2 天前
云原生·容器·kubernetes
轻量强大!一款现代化的 Kubernetes 集群管理与监控工具!大家好,我是 Java陈序员。在云原生时代,Kubernetes 早已成为集群管理的标配。随着企业 K8s 集群规模扩大、业务场景复杂化,传统管理工具的短板愈发明显。对于云原生开发者而言,一款轻量、高效、覆盖全生命周期的 K8s 可视化面板工具,早已成为刚需。
Johny_Zhao3 天前
linux·人工智能·信息安全·kubernetes·云计算·yum源·系统运维·openclaw
OpenClaw中级到高级教程OpenClaw从"能用"迈向"好用"的关键跨越。下面这份教程将涵盖你关注的记忆系统、网络搜索、服务器部署、接入微信/飞书、安装skills、多Agents功能,并补充心跳机制的说明,帮你系统性地掌握这些进阶能力。
可观测性用观测云7 天前
nginx·kubernetes
云原生网关 Ingress-Nginx 链路追踪实战:OpenTelemetry 采集与观测云集成方案在大型分布式系统中,服务之间调用复杂,链路追踪可以帮助梳理请求流向,现代系统也需要实时监控来快速响应事件以及故障,让我们了解系统瓶颈和高负载路径,从而可以进行优化。
蝎子莱莱爱打怪9 天前
后端·docker·kubernetes
GitLab CI/CD + Docker Registry + K8s 部署完整实战指南之前搞过Jenkins的CI CD :CI/CD详解 & Jenkins 介绍与实战,而这次我准备使用gitlab自带的CI CD 来将编译,打包,构建&推送镜像以及部署到k8s 全部自动化,从而实现持续集成持续发布(CI CD)的效果。
蝎子莱莱爱打怪12 天前
运维·后端·kubernetes
Centos7中一键安装K8s集群以及Rancher安装记录早就想学你了,k8s,哥来了! 哈哈!共计3台机器:3台机器的内核和系统信息都一模一样,如下:如果之前有装过k8s那么为了确保干净,需要清理下:
阿里云云原生13 天前
kubernetes
Kubernetes 官方再出公告,强调立即迁移 Ingress NGINX作者:望宸Kubernetes 贡献者社区发布了一篇 blog(Ingress NGINX Retirement: What You Need to Know),Kubernetes SIG Network 和安全响应委员会宣布 Ingress NGINX 退役,公告核心内容包括:
至此流年莫相忘13 天前
云原生·容器·kubernetes
Kubernetes实战篇之配置与存储使用 kubectl create configmap -h 查看示例,构建 configmap 对象
至此流年莫相忘13 天前
容器·kubernetes·服务发现
Kubernetes实战篇之服务发现ClusterIP只能 在集群内部使用,不配置类型的话默认就是ClusterIPExternalName
only_Klein13 天前
容器·kubernetes·upgrade
Kubernetes 版本升级kubernetes 集群后期会更新和证书的有效期等原因,可能在某个阶段会对当前的软件版本进行调整,可能是版本升级,也可能是版本回退。但是这些场景的操作方法基本上是一样的。
sanyii31313113 天前
云原生·容器·kubernetes
k8s核心资源Pod-主容器之存活性探测容器探测用于检测容器中的应用实例是否正常工作,是保障业务可用性的一种传统机制。如果经过探测,实例的状态不符合预期,那么kubernetes就会把该问题实例" 摘除 ",不承担业务流量。
EverydayJoy^v^14 天前
云原生·容器·kubernetes
Kubernetes 知识点(1)——基础依赖答:这三个包是安装Docker/K8s的基础依赖;(1)ca-certificates(验证证书)提供系统CA根证书集合,让系统能验证HTTPS网站的可信性(docker/K8s的仓库是HTTPS),验证官方仓库。
Tummer836314 天前
docker·容器·kubernetes
从 Docker 到 Kubernetes:容器编排的工程化实践指南Kubernetes(简称K8S)是一个容器编排平台,用于管理大量容器的部署、扩缩容、调度与生命周期。
认真的薛薛14 天前
elasticsearch·kubernetes·prometheus
13.k8s中Prometheus监控集群及其服务,endpoint暴露服务,es采集k8s日志svip下载地址:默认的用户名和密码: admin dash—default-----点一下集群状态客户端请求流程: 客户端请求 → Traefik (web entryPoint) → IngressRoute路由规则 → prometheus-k8s Service:9090 → Prometheus Pod
肖祥14 天前
kubernetes
安装Sealos(新版k8s v1.33.6)从本质上讲,Sealos 是一个基于 Kubernetes 的轻量级云操作系统。它作为一个综合性平台,封装了现代应用部署和管理所需的核心组件。与需要大量配置和专业知识的传统 Kubernetes 发行版不同,Sealos 专为需要强大基础设施能力但无需面对相关复杂性的开发者和团队而构建。
懒鸟一枚14 天前
云原生·容器·kubernetes
k8s 之 Kubernetes服务发布基础标签是附着在 k8s 资源(Pod、Node、Service、Deployment 等)上的键值对,用于对资源进行标识和分类,本身不具备任何语义,仅用于筛选和分组。
Joren的学习记录14 天前
linux·运维·kubernetes
【Linux运维大神系列】k8s项目部署实战目录微服务项目部署什么是微服务?微服务项目介绍微服务组件介绍k8s中部署微服务项目微服务注册中心Nacos
only_Klein14 天前
云原生·容器·kubernetes·service
Kubernetes-Service实现对于Kubernetes 可以实现内部服务的自由通信,也可以将平台内部的服务发布到外部环境 Service主要有四种类型,实现不同的网络通信功能,参考文档