云原生周刊:在Docker上部署大语言模型

开源项目推荐

Glance

Glance 是一个开源的自托管仪表板,旨在帮助用户将多种信息源集中展示在一个平台上,用户可以通过它查看不同的实时数据和更新。作为自托管解决方案,Glance 提供了灵活的定制功能,允许用户根据自己的需求添加或删除不同的源和小部件。

OrangePiShell

OrangePiShell 旨在为 Linux 系统提供一个简化的解决方案,用于快速部署一些有用的 Docker 项目。最初,OrangePiShell 是专为香橙派(Orange Pi) 设备设计的,但随着项目的不断发展,它已经支持在各种 Linux 环境中运行。这个工具的主要目标是让用户能够方便地部署和管理 Docker 容器。

Olares

Olares 是一个开源、自托管的云平台,旨在作为公共云的替代方案。它基于 Kubernetes 构建,支持多节点部署,提供丰富的开发工具、应用管理以及多用户支持。Olares 支持在 Linux、Windows、Mac 等操作系统上运行,并提供灵活的客户端应用,支持 Android、iOS、Windows 和 Mac。

Terrateam

Terrateam 是一个开源的 GitOps CI/CD 平台,旨在自动化基础设施工作流,尤其是与 Terraform、OpenTofu、CDKTF 和 Terragrunt 等基础设施管理工具的集成。它通过 GitHub 托管和 Pull Request(PR)来协调和执行这些工具的操作,使得基础设施管理更加自动化、可审计且具有版本控制。

文章推荐

在 Docker 上部署生成式 AI 大语言模型

生成式 AI 是指能够基于大量数据集自主生成内容(如文本、图像或音乐)的 AI 系统。大型语言模型(LLMs),如 GPT-4,是该领域的关键,专门用于理解和生成类人文本。其应用涵盖了医疗、金融等行业。部署 LLMs 需要像 Docker 这样的平台来实现高效、可扩展的管理。Ollama 是一个用于本地部署 LLMs 的工具,提供了微调和交互式查询功能,而无需依赖云服务。

为 Cozystack 构建动态 K8s API服务器

这篇文章讨论了动态 K8s API 服务器的开发,旨在增强 K8s API 聚合层。这个创新是 Cozystack 项目的一部分,旨在为K8s 用户提供更高的灵活性和可扩展性。通过允许动态 API 扩展和改进资源管理,它使得新特性的集成变得更加容易,而无需修改核心系统。这种方法简化了用户操作,并支持 Cozystack 创建一个更适应和高效的云原生环境的愿景。

Gafgyt恶意软件瞄准 Docker 远程API服务器

Gafgyt 恶意软件传统上以攻击物联网设备为主,但最近开始将目标转向配置不当的 Docker 远程 API 服务器。攻击者利用这些漏洞部署恶意软件,通常还会伴随一个能发起分布式拒绝服务(DDoS)攻击的僵尸网络。这标志着 Gafgyt 恶意软件从物联网设备扩展到像 Docker 容器这样的云基础设施。

云原生动态

OpenCost 成为 CNCF 孵化项目

OpenCost 成为 CNCF 孵化项目,并推出了新的插件,支持 Datadog、MongoDB Atlas 和 OpenAI,从而提升了 K8s 环境中的成本可视化能力。这些插件使用户能够追踪监控、数据库和 AI 服务的成本。此外,OpenCost 还为被采纳的社区贡献插件提供 $1,000 奖金和周边产品。该项目通过插件开发鼓励更多的合作,并计划推出 Snowflake、Databricks 和 Cloudflare 等服务的插件。

Linkerd 2.17 发布:新增出口流量管理、限流与跨集群服务功能

Linkerd 2.17 引入了多个重大更新,包括出口流量可视化与控制、限流功能以提高服务可靠性,以及跨集群服务功能,以增强多集群环境中的操作。这些新特性改善了流量管理,简化了配置,并优化了 K8s 集群中的服务性能。此外,Linkerd 还集成了 OpenTelemetry,用于分布式追踪,保持了其简洁而强大的设计。

关于KubeSphere

KubeSphere (https://kubesphere.io)是在 Kubernetes 之上构建的开源容器平台,提供全栈的 IT 自动化运维的能力,简化企业的 DevOps 工作流。

KubeSphere 已被 Aqara 智能家居、本来生活、东方通信、微宏科技、东软、华云、新浪、三一重工、华夏银行、四川航空、国药集团、微众银行、紫金保险、去哪儿网、中通、中国人民银行、中国银行、中国人保寿险、中国太平保险、中国移动、中国联通、中国电信、天翼云、中移金科、Radore、ZaloPay 等海内外数万家企业采用。KubeSphere 提供了开发者友好的向导式操作界面和丰富的企业级功能,包括 Kubernetes 多云与多集群管理、DevOps (CI/CD)、应用生命周期管理、边缘计算、微服务治理 (Service Mesh)、多租户管理、可观测性、存储与网络管理、GPU support 等功能,帮助企业快速构建一个强大和功能丰富的容器云平台。

本文由博客一文多发平台 OpenWrite 发布!

相关推荐
数据与人工智能律师8 小时前
数字迷雾中的安全锚点:解码匿名化与假名化的法律边界与商业价值
大数据·网络·人工智能·云计算·区块链
Johny_Zhao19 小时前
Centos8搭建hadoop高可用集群
linux·hadoop·python·网络安全·信息安全·云计算·shell·yum源·系统运维·itsm
_可乐无糖1 天前
AWS WebRTC:我们的业务模式
云计算·音视频·webrtc·aws
Kentos(acoustic ver.)1 天前
云原生 —— K8s 容器编排系统
云原生·容器·kubernetes·云计算·k8s
Britz_Kevin2 天前
从零开始的云计算生活——番外6,使用zabbix对中间件监控
云计算·生活·zabbix
贺贺丿2 天前
Docker2-容器应用工具及docker命令
linux·运维·docker·容器·自动化·云计算
程序猿追2 天前
亚马逊云科技:引领云计算新时代,开启无限可能
科技·云计算·亚马逊
果子⌂2 天前
Kubernetes 服务发布进阶
linux·运维·服务器·云原生·容器·kubernetes·云计算
青梅主码-杰哥2 天前
中央广播电视总台联合阿里云研究院权威发布《中国人工智能应用发展报告(2025)》:我国依旧需要大力注重人工智能人才的培养
人工智能·阿里云·云计算
NUZGNAW2 天前
等保二级、三级配置表(阿里云)
阿里云·云计算