让 K8s 更简单！8款你不得不知的 AI 工具-Part 2

Seal软件2024-02-23 11:54

在 part 1 中，我们探讨了目前比较流行的四种 OpenAI 开源工具。在今天的 part 2 中我们将探究另外三种不同的 OpenAI 开源工具并介绍一些与 Appilot 相关的内容。

Kubectl-GPT

Kubectl-GPT 是一个 kubectl 插件，可使用 GPT 模型从自然语言输入生成 kubectl 命令 。该插件引入了 kubectl GPT 命令，它的唯一使命就是在 Kubernetes 集群中实现您的请求。

安装

Homebrew：

bash 复制代码 
# Install Homebrew: https://brew.sh/ 
brew tap devinjeon/kubectl-gpt https://github.com/devinjeon/kubectl-gpt
brew install kubectl-gpt

Krew：

bash 复制代码 
# Install Krew: https://krew.sigs.k8s.io/docs/user-guide/setup/install/
kubectl krew index add devinjeon https://github.com/devinjeon/kubectl-gpt
kubectl krew install devinjeon/gpt

需要使用自然语言输入运行命令行工具，生成 kubectl 命令。

arduino 复制代码 
kubectl gpt "<WHAT-YOU-WANT-TO-DO>"

前提条件

开始之前，请确保将 OpenAI API 密钥设置为名为 OPENAI_API_KEY 的环境变量。

然后您可以在 .zshrc 或 .bashrc 文件中添加以下一行：

ini 复制代码 
export OPENAI_API_KEY=<your-key>

当然，这取决于 OpenAI GPT API 所支持的语言，比如：

css 复制代码 
# English
kubectl gpt "Print the creation time and pod name of all pods in all namespaces."
kubectl gpt "Print the memory limit and request of all pods"
kubectl gpt "Increase the replica count of the coredns deployment to 2"
kubectl gpt "Switch context to the kube-system namespace"

Kube-Copilot

它是由 OpenAI 提供支持的 Kubernetes Copilot。主要功能为：

  • 使用 ChatGPT（GPT-4 或 GPT-3.5）自动执行 Kubernetes 集群操作。
  • 诊断和分析 Kubernetes 工作负载的潜在问题。
  • 根据提供的提示说明生成 Kubernetes 清单。
  • 利用本地 kubectl 和 trivy 命令进行 Kubernetes 集群访问和安全漏洞扫描。
  • 无需离开终端即可访问网络并执行 Google 搜索。

安装

在 Kubernetes 中运行时：

Option 1：使用带 Helm 的 Web UI（推荐）

ini 复制代码 
# Option 1: OpenAI
export OPENAI_API_KEY="<replace-this>"
helm install kube-copilot kube-copilot \
  --repo https://feisky.xyz/kube-copilot \
  --set openai.apiModel=gpt-4 \
  --set openai.apiKey=$OPENAI_API_KEY

# Option 2: Azure OpenAI Service
export OPENAI_API_KEY="<replace-this>"
export OPENAI_API_BASE="<replace-this>"
helm install kube-copilot kube-copilot \
  --repo https://feisky.xyz/kube-copilot \
  --set openai.apiModel=gpt-4 \
  --set openai.apiKey=$OPENAI_API_KEY \
  --set openai.apiBase=$OPENAI_API_BASE
# Forwarding requests to the service
kubectl port-forward service/kube-copilot 8080:80
echo "Visit http://127.0.0.1:8080 to use the copilot"

Option 2：使用带 CLI 的 kubectl

ini 复制代码 
kubectl run -it --rm copilot \
  --env="OPENAI_API_KEY=$OPENAI_API_KEY" \
  --restart=Never \
  --image=ghcr.io/feiskyer/kube-copilot \
  -- execute --verbose 'What Pods are using max memory in the cluster'

在本地安装：

使用下面的 pip 命令安装 copilot：

pip install kube-copilot

设置操作

  • 确保本地计算机上安装了 kubectl，并为 Kubernetes 集群访问配置了 kubeconfig 文件。
  • 安装 trivy 以评估容器映像安全问题（用于 audit 命令）。
  • 将 OpenAI API 密钥设置为 OPENAI_API_KEY 的环境变量，以启用 ChatGPT 功能。
  • 对于 Azure OpenAI 服务，还要设置 OPENAI_API_TYPE=azure，以及 OPENAI_API_BASE=https://<replace-this>.openai.azure.com/。
  • Google 搜索默认为禁用。要启用它，请设置 GOOGLE_API_KEY 和 GOOGLE_CSE_ID。

使用 CLI的方法：直接在终端运行。

vbnet 复制代码 
Usage: kube-copilot [OPTIONS] COMMAND [ARGS]...
Kubernetes Copilot powered by OpenAI
Options:
  --version  Show the version and exit.
  --help     Show this message and exit.
Commands:
  analyze   analyze issues for a given resource
  audit     audit security issues for a Pod
  diagnose  diagnose problems for a Pod
  execute   execute operations based on prompt instructions
  generate  generate Kubernetes manifests

审核 Pod 的安全问题 ：可以使用 kube-copilot audit POD [NAMESPACE] 来审核 Pod 的安全问题。

vbnet 复制代码 
Usage: kube-copilot audit [OPTIONS] POD [NAMESPACE]
 audit security issues for a Pod
Options:
  --verbose      Enable verbose information of copilot execution steps
  --model MODEL  OpenAI model to use for copilot execution, default is gpt-4
  --help         Show this message and exit.

诊断 Pod 存在的问题 ：利用 kube-copilot diagnose POD [NAMESPACE] 即能诊断 Pod 的问题。

vbnet 复制代码 
Usage: kube-copilot diagnose [OPTIONS] POD [NAMESPACE]
 diagnose problems for a Pod
Options:
  --verbose      Enable verbose information of copilot execution steps
  --model MODEL  OpenAI model to use for copilot execution, default is gpt-4
  --help         Show this message and exit.

分析 K8s Object 的潜在问题 ：运行 kube-copilot analyze RESOURCE NAME [NAMESPACE] 将分析给定资源对象的潜在问题。

vbnet 复制代码 
Usage: kube-copilot analyze [OPTIONS] RESOURCE NAME [NAMESPACE]
  analyze issues for a given resource
Options:
  --verbose     Enable verbose information of copilot execution steps
  --model TEXT  OpenAI model to use for copilot execution, default is gpt-4
  --help        Show this message and exit.

根据提示指令执行操作 ：kube-copilot execute INSTRUCTIONS 能根据提示指令执行操作。它也可用于询问任何问题。

lua 复制代码 
Usage: kube-copilot execute [OPTIONS] INSTRUCTIONS
execute operations based on prompt instructions
Options:
  --verbose      Enable verbose information of copilot execution steps
  --model MODEL  OpenAI model to use for copilot execution, default is gpt-4
  --help         Show this message and exit.

生成 Kubernetes 清单 ：使用 kube-copilot generate 命令，根据提示说明创建 Kubernetes 清单。生成清单后，系统会提示您确认是否要应用它们。

vbnet 复制代码 
Usage: kube-copilot generate [OPTIONS] INSTRUCTIONS
generate Kubernetes manifests
Options:
  --verbose     Enable verbose information of copilot execution steps
  --model TEXT  OpenAI model to use for copilot execution, default is gpt-4
  --help        Show this message and exit.

Kubernetes ChatGPT bot

这是用于 Kubernetes 问题的 ChatGPT1 bot。它能向 AI 询问如何解决 Prometheus 警报，并获得精炼的回复。

Prometheus 将通过 webhook 接收器将警报转发给 bot。随后 bot 会向 OpenAI 发送查询，询问如何修复警报，您只需要耐心等待结果即可。

这样的 bot 是通过 Robusta.dev 实现的，一个用于响应 Kubernetes 警报的开源平台。我们还有一个用于多集群 Kubernetes 可观察性的 SaaS 平台。

一个 Slack 工作区即为设置它的前提条件。

然后，您只需：

  • 使用 Helm 安装 Robusta
  • 加载 ChatGPT playbook。将以下内容添加到 generated_values.yaml
yaml 复制代码 
playbookRepos:
  chatgpt_robusta_actions:
    url: "https://github.com/robusta-dev/kubernetes-chatgpt-bot.git"
customPlaybooks:
# Add the 'Ask ChatGPT' button to all Prometheus alerts
- triggers:
  - on_prometheus_alert: {}
  actions:
  - chat_gpt_enricher: {}
  • 在 generated_values.yaml 中添加 OpenAI API 密钥。确保编辑现有的 globalConfig 部分，不要添加重复的部分。
vbnet 复制代码 
globalConfig:
  chat_gpt_token: YOUR KEY GOES HERE
  • 进行 Helm 升级以应用新值
ini 复制代码 
helm upgrade robusta robusta/robusta 
 --values=generated_values.yaml 
 --set clusterName=<YOUR_CLUSTER_NAME>
  • 将 Prometheus 警报发送到 Robusta。或者，直接使用 Robusta 捆绑的 Prometheus 堆栈。

演示

先部署损坏的 pod，使该 pod 将停留在待处理状态：

arduino 复制代码 
kubectl apply -f https://raw.githubusercontent.com/robusta-dev/kubernetes-demos/main/pending_pods/pending_pod_node_selector.yaml

随即立即触发 Prometheus 警报，跳过正常延迟：

arduino 复制代码 
robusta playbooks trigger prometheus_alert alert_name=KubePodCrashLooping namespace=default pod_name=example-pod

Slack 中会出现一个带有按钮的警报。单击该按钮向 ChatGPT 询问有关该警报的信息即可。

Appilot

Appilot 是一款面向 DevOps 场景的开源 AI 助手，它可以充分利用 AI 大语言模型的能力让用户直接输入自然语言进一步简化 K8s 管理体验。

Appilot 基于大语言模型进行推理，并且可以运行在本地个人电脑上。用户可以根据自身的需求和使用习惯，将 Appilot 集成到任意平台，进而实现通过输入自然语言即可调用后端平台的能力，轻松完成应用管理、环境管理、K8s debug 等任务。

Appilot 项目地址 github.com/seal-io/app...

相关推荐
古希腊掌管学习的神38 分钟前
[机器学习]XGBoost（3）——确定树的结构
人工智能·机器学习
ZHOU_WUYI1 小时前
4.metagpt中的软件公司智能体 (ProjectManager 角色)
人工智能·metagpt
靴子学长2 小时前
基于字节大模型的论文翻译（含免费源码）
人工智能·深度学习·nlp
AI_NEW_COME3 小时前
知识库管理系统可扩展性深度测评
人工智能
海棠AI实验室3 小时前
AI的进阶之路：从机器学习到深度学习的演变（一）
人工智能·深度学习·机器学习
hunteritself3 小时前
AI Weekly『12月16-22日』：OpenAI公布o3，谷歌发布首个推理模型，GitHub Copilot免费版上线！
人工智能·gpt·chatgpt·github·openai·copilot
IT古董4 小时前
【机器学习】机器学习的基本分类-强化学习-策略梯度（Policy Gradient，PG）
人工智能·机器学习·分类
centurysee4 小时前
【最佳实践】Anthropic：Agentic系统实践案例
人工智能
mahuifa4 小时前
混合开发环境---使用编程AI辅助开发Qt
人工智能·vscode·qt·qtcreator·编程ai
四口鲸鱼爱吃盐4 小时前
Pytorch | 从零构建GoogleNet对CIFAR10进行分类
人工智能·pytorch·分类
热门推荐
01〔AI 绘画〕Stable Diffusion 之 解决绘制多人或面部很小的人物时面部崩坏问题 篇02ARM学习（31）编译器对overlay方式的支持03玄机平台应急响应—webshell查杀04DisplayPort AltMode On Type-c协议_Ver2.0(学习笔记)05校验 GPT-4 真实性的三个经典问题：快速区分 GPT-3.5 与 GPT-4，并提供免费测试网站06Docker 夺命连环 15 问076个主流的工业3D管道设计软件08基于大语言模型（LLM）的合成数据生成、策展和评估的综述09(欧拉)openEuler系统添加网卡文件配置流程、(欧拉)openEuler系统手动配置ipv6地址流程、(欧拉)openEuler系统网络管理说明10树莓派 5 AI 套件（Hailo-8L）使用教程