云原生周刊:在Docker上部署大语言模型

开源项目推荐

Glance

Glance 是一个开源的自托管仪表板,旨在帮助用户将多种信息源集中展示在一个平台上,用户可以通过它查看不同的实时数据和更新。作为自托管解决方案,Glance 提供了灵活的定制功能,允许用户根据自己的需求添加或删除不同的源和小部件。

OrangePiShell

OrangePiShell 旨在为 Linux 系统提供一个简化的解决方案,用于快速部署一些有用的 Docker 项目。最初,OrangePiShell 是专为香橙派(Orange Pi) 设备设计的,但随着项目的不断发展,它已经支持在各种 Linux 环境中运行。这个工具的主要目标是让用户能够方便地部署和管理 Docker 容器。

Olares

Olares 是一个开源、自托管的云平台,旨在作为公共云的替代方案。它基于 Kubernetes 构建,支持多节点部署,提供丰富的开发工具、应用管理以及多用户支持。Olares 支持在 Linux、Windows、Mac 等操作系统上运行,并提供灵活的客户端应用,支持 Android、iOS、Windows 和 Mac。

Terrateam

Terrateam 是一个开源的 GitOps CI/CD 平台,旨在自动化基础设施工作流,尤其是与 Terraform、OpenTofu、CDKTF 和 Terragrunt 等基础设施管理工具的集成。它通过 GitHub 托管和 Pull Request(PR)来协调和执行这些工具的操作,使得基础设施管理更加自动化、可审计且具有版本控制。

文章推荐

在 Docker 上部署生成式 AI 大语言模型

生成式 AI 是指能够基于大量数据集自主生成内容(如文本、图像或音乐)的 AI 系统。大型语言模型(LLMs),如 GPT-4,是该领域的关键,专门用于理解和生成类人文本。其应用涵盖了医疗、金融等行业。部署 LLMs 需要像 Docker 这样的平台来实现高效、可扩展的管理。Ollama 是一个用于本地部署 LLMs 的工具,提供了微调和交互式查询功能,而无需依赖云服务。

为 Cozystack 构建动态 K8s API服务器

这篇文章讨论了动态 K8s API 服务器的开发,旨在增强 K8s API 聚合层。这个创新是 Cozystack 项目的一部分,旨在为K8s 用户提供更高的灵活性和可扩展性。通过允许动态 API 扩展和改进资源管理,它使得新特性的集成变得更加容易,而无需修改核心系统。这种方法简化了用户操作,并支持 Cozystack 创建一个更适应和高效的云原生环境的愿景。

Gafgyt恶意软件瞄准 Docker 远程API服务器

Gafgyt 恶意软件传统上以攻击物联网设备为主,但最近开始将目标转向配置不当的 Docker 远程 API 服务器。攻击者利用这些漏洞部署恶意软件,通常还会伴随一个能发起分布式拒绝服务(DDoS)攻击的僵尸网络。这标志着 Gafgyt 恶意软件从物联网设备扩展到像 Docker 容器这样的云基础设施。

云原生动态

OpenCost 成为 CNCF 孵化项目

OpenCost 成为 CNCF 孵化项目,并推出了新的插件,支持 Datadog、MongoDB Atlas 和 OpenAI,从而提升了 K8s 环境中的成本可视化能力。这些插件使用户能够追踪监控、数据库和 AI 服务的成本。此外,OpenCost 还为被采纳的社区贡献插件提供 $1,000 奖金和周边产品。该项目通过插件开发鼓励更多的合作,并计划推出 Snowflake、Databricks 和 Cloudflare 等服务的插件。

Linkerd 2.17 发布:新增出口流量管理、限流与跨集群服务功能

Linkerd 2.17 引入了多个重大更新,包括出口流量可视化与控制、限流功能以提高服务可靠性,以及跨集群服务功能,以增强多集群环境中的操作。这些新特性改善了流量管理,简化了配置,并优化了 K8s 集群中的服务性能。此外,Linkerd 还集成了 OpenTelemetry,用于分布式追踪,保持了其简洁而强大的设计。

关于KubeSphere

KubeSphere (https://kubesphere.io)是在 Kubernetes 之上构建的开源容器平台,提供全栈的 IT 自动化运维的能力,简化企业的 DevOps 工作流。

KubeSphere 已被 Aqara 智能家居、本来生活、东方通信、微宏科技、东软、华云、新浪、三一重工、华夏银行、四川航空、国药集团、微众银行、紫金保险、去哪儿网、中通、中国人民银行、中国银行、中国人保寿险、中国太平保险、中国移动、中国联通、中国电信、天翼云、中移金科、Radore、ZaloPay 等海内外数万家企业采用。KubeSphere 提供了开发者友好的向导式操作界面和丰富的企业级功能,包括 Kubernetes 多云与多集群管理、DevOps (CI/CD)、应用生命周期管理、边缘计算、微服务治理 (Service Mesh)、多租户管理、可观测性、存储与网络管理、GPU support 等功能,帮助企业快速构建一个强大和功能丰富的容器云平台。

本文由博客一文多发平台 OpenWrite 发布!

相关推荐
dessler6 小时前
vmware-esxi使用指南
linux·运维·云计算
尚雷55807 小时前
云计算IaaS-PaaS-SaaS三种服务模式转至元数据结尾
云原生·云计算·paas
开源架构师7 小时前
开源架构与云计算的传奇融合
大数据·架构·开源·云计算·应用案例·开源架构·容器化部署
zqh176736464697 小时前
【新版】阿里云ACP云计算题库及答案解析
阿里云·云计算·阿里云acp·阿里云acp题库·云计算工程师·阿里云acp试题·阿里云acp认证
Thanks_ks7 小时前
深入探索现代 IT 技术:从云计算到人工智能的全面解析
大数据·人工智能·物联网·云计算·区块链·数字化转型·it 技术
阿里云大数据AI技术11 小时前
【NeurIPS'24】阿里云 PAI 团队论文被收录为 Spotlight,并完成主题演讲分享
人工智能·云计算
成都 - 阿木木17 小时前
全新的命令行自动化测试框架/运用于云原生/中间件/云计算/混沌测试等场景
云原生·中间件·云计算
一掬净土1 天前
K8S服务突然中断无法访问:报The node had condition: [DiskPressure]异常
容器·kubernetes·k8s·diskpressure·磁盘压力
凌_晨1 天前
阿里云ack部署rabbitmq集群
分布式·阿里云·云计算·rabbitmq
shuxunAPI1 天前
驾驶证 OCR 识别 API 接口出现的背景原因有哪些?
云计算·ocr·api·驾驶证ocr识别