云原生周刊:在Docker上部署大语言模型

开源项目推荐

Glance

Glance 是一个开源的自托管仪表板,旨在帮助用户将多种信息源集中展示在一个平台上,用户可以通过它查看不同的实时数据和更新。作为自托管解决方案,Glance 提供了灵活的定制功能,允许用户根据自己的需求添加或删除不同的源和小部件。

OrangePiShell

OrangePiShell 旨在为 Linux 系统提供一个简化的解决方案,用于快速部署一些有用的 Docker 项目。最初,OrangePiShell 是专为香橙派(Orange Pi) 设备设计的,但随着项目的不断发展,它已经支持在各种 Linux 环境中运行。这个工具的主要目标是让用户能够方便地部署和管理 Docker 容器。

Olares

Olares 是一个开源、自托管的云平台,旨在作为公共云的替代方案。它基于 Kubernetes 构建,支持多节点部署,提供丰富的开发工具、应用管理以及多用户支持。Olares 支持在 Linux、Windows、Mac 等操作系统上运行,并提供灵活的客户端应用,支持 Android、iOS、Windows 和 Mac。

Terrateam

Terrateam 是一个开源的 GitOps CI/CD 平台,旨在自动化基础设施工作流,尤其是与 Terraform、OpenTofu、CDKTF 和 Terragrunt 等基础设施管理工具的集成。它通过 GitHub 托管和 Pull Request(PR)来协调和执行这些工具的操作,使得基础设施管理更加自动化、可审计且具有版本控制。

文章推荐

在 Docker 上部署生成式 AI 大语言模型

生成式 AI 是指能够基于大量数据集自主生成内容(如文本、图像或音乐)的 AI 系统。大型语言模型(LLMs),如 GPT-4,是该领域的关键,专门用于理解和生成类人文本。其应用涵盖了医疗、金融等行业。部署 LLMs 需要像 Docker 这样的平台来实现高效、可扩展的管理。Ollama 是一个用于本地部署 LLMs 的工具,提供了微调和交互式查询功能,而无需依赖云服务。

为 Cozystack 构建动态 K8s API服务器

这篇文章讨论了动态 K8s API 服务器的开发,旨在增强 K8s API 聚合层。这个创新是 Cozystack 项目的一部分,旨在为K8s 用户提供更高的灵活性和可扩展性。通过允许动态 API 扩展和改进资源管理,它使得新特性的集成变得更加容易,而无需修改核心系统。这种方法简化了用户操作,并支持 Cozystack 创建一个更适应和高效的云原生环境的愿景。

Gafgyt恶意软件瞄准 Docker 远程API服务器

Gafgyt 恶意软件传统上以攻击物联网设备为主,但最近开始将目标转向配置不当的 Docker 远程 API 服务器。攻击者利用这些漏洞部署恶意软件,通常还会伴随一个能发起分布式拒绝服务(DDoS)攻击的僵尸网络。这标志着 Gafgyt 恶意软件从物联网设备扩展到像 Docker 容器这样的云基础设施。

云原生动态

OpenCost 成为 CNCF 孵化项目

OpenCost 成为 CNCF 孵化项目,并推出了新的插件,支持 Datadog、MongoDB Atlas 和 OpenAI,从而提升了 K8s 环境中的成本可视化能力。这些插件使用户能够追踪监控、数据库和 AI 服务的成本。此外,OpenCost 还为被采纳的社区贡献插件提供 $1,000 奖金和周边产品。该项目通过插件开发鼓励更多的合作,并计划推出 Snowflake、Databricks 和 Cloudflare 等服务的插件。

Linkerd 2.17 发布:新增出口流量管理、限流与跨集群服务功能

Linkerd 2.17 引入了多个重大更新,包括出口流量可视化与控制、限流功能以提高服务可靠性,以及跨集群服务功能,以增强多集群环境中的操作。这些新特性改善了流量管理,简化了配置,并优化了 K8s 集群中的服务性能。此外,Linkerd 还集成了 OpenTelemetry,用于分布式追踪,保持了其简洁而强大的设计。

关于KubeSphere

KubeSphere (https://kubesphere.io)是在 Kubernetes 之上构建的开源容器平台,提供全栈的 IT 自动化运维的能力,简化企业的 DevOps 工作流。

KubeSphere 已被 Aqara 智能家居、本来生活、东方通信、微宏科技、东软、华云、新浪、三一重工、华夏银行、四川航空、国药集团、微众银行、紫金保险、去哪儿网、中通、中国人民银行、中国银行、中国人保寿险、中国太平保险、中国移动、中国联通、中国电信、天翼云、中移金科、Radore、ZaloPay 等海内外数万家企业采用。KubeSphere 提供了开发者友好的向导式操作界面和丰富的企业级功能,包括 Kubernetes 多云与多集群管理、DevOps (CI/CD)、应用生命周期管理、边缘计算、微服务治理 (Service Mesh)、多租户管理、可观测性、存储与网络管理、GPU support 等功能,帮助企业快速构建一个强大和功能丰富的容器云平台。

本文由博客一文多发平台 OpenWrite 发布!

相关推荐
AKAMAI1 小时前
从客户端自适应码率流媒体迁移到服务端自适应码率流媒体
人工智能·云计算
G31135422737 小时前
从零开始 通义千问大模型本地化到阿里云通义千问API调用
阿里云·云计算
Akamai中国8 小时前
提升 EdgeWorker 可观测性:使用 DataStream 设置日志功能
人工智能·云计算·云服务
XINVRY-FPGA10 小时前
XCVP1802-2MSILSVC4072 AMD Xilinx Versal Premium Adaptive SoC FPGA
人工智能·嵌入式硬件·fpga开发·数据挖掘·云计算·硬件工程·fpga
孤廖15 小时前
终极薅羊毛指南:CLI工具免费调用MiniMax-M2/GLM-4.6/Kimi-K2-Thinking全流程
人工智能·经验分享·chatgpt·ai作画·云计算·无人机·文心一言
伞啊伞15 小时前
DR模式部署
云计算
wanhengidc1 天前
云手机性能如何?
运维·服务器·科技·智能手机·云计算
禁默1 天前
汽车领域智能体开发全解析—腾讯云黑客松Agent应用创新挑战赛微信公众号赛道实战复盘
云计算·汽车·腾讯云·智能体
wanhengidc1 天前
云手机中分布式存储的功能
运维·服务器·分布式·游戏·智能手机·云计算
syounger1 天前
奔驰全球 IT 加速转型:SAP × AWS × Agentic AI 如何重塑企业核心系统
人工智能·云计算·aws