写点什么

让 K8s 更简单!8 款你不得不知的 AI 工具 -Part 2

作者:SEAL安全
  • 2024-02-23
    澳大利亚
  • 本文字数:3755 字

    阅读完需:约 12 分钟

让 K8s 更简单!8款你不得不知的 AI 工具-Part 2

在 part 1 中,我们探讨了目前比较流行的四种 OpenAI 开源工具。在今天的 part 2 中我们将探究另外三种不同的 OpenAI 开源工具并介绍一些与 Appilot 相关的内容。


Kubectl-GPT

Kubectl-GPT 是一个 kubectl 插件,可使用 GPT 模型从自然语言输入生成 kubectl 命令。该插件引入了 kubectl GPT 命令,它的唯一使命就是在 Kubernetes 集群中实现您的请求。



安装

Homebrew


# Install Homebrew: https://brew.sh/ brew tap devinjeon/kubectl-gpt https://github.com/devinjeon/kubectl-gptbrew install kubectl-gpt
复制代码


Krew


# Install Krew: https://krew.sigs.k8s.io/docs/user-guide/setup/install/kubectl krew index add devinjeon https://github.com/devinjeon/kubectl-gptkubectl krew install devinjeon/gpt
复制代码


需要使用自然语言输入运行命令行工具,生成 kubectl 命令。


kubectl gpt "<WHAT-YOU-WANT-TO-DO>"
复制代码


前提条件

开始之前,请确保将 OpenAI API 密钥设置为名为 OPENAI_API_KEY 的环境变量。


然后您可以在 .zshrc.bashrc 文件中添加以下一行:


export OPENAI_API_KEY=<your-key>
复制代码


当然,这取决于 OpenAI GPT API 所支持的语言,比如:


# Englishkubectl gpt "Print the creation time and pod name of all pods in all namespaces."kubectl gpt "Print the memory limit and request of all pods"kubectl gpt "Increase the replica count of the coredns deployment to 2"kubectl gpt "Switch context to the kube-system namespace"
复制代码


Kube-Copilot

它是由 OpenAI 提供支持的 Kubernetes Copilot。主要功能为:


  • 使用 ChatGPT(GPT-4 或 GPT-3.5)自动执行 Kubernetes 集群操作

  • 诊断和分析 Kubernetes 工作负载的潜在问题。

  • 根据提供的提示说明生成 Kubernetes 清单。

  • 利用本地 kubectl 和 trivy 命令进行 Kubernetes 集群访问和安全漏洞扫描。

  • 无需离开终端即可访问网络并执行 Google 搜索


安装

在 Kubernetes 中运行时


Option 1:使用带 Helm 的 Web UI(推荐)


# Option 1: OpenAIexport OPENAI_API_KEY="<replace-this>"helm install kube-copilot kube-copilot \  --repo https://feisky.xyz/kube-copilot \  --set openai.apiModel=gpt-4 \  --set openai.apiKey=$OPENAI_API_KEY
# Option 2: Azure OpenAI Serviceexport OPENAI_API_KEY="<replace-this>"export OPENAI_API_BASE="<replace-this>"helm install kube-copilot kube-copilot \ --repo https://feisky.xyz/kube-copilot \ --set openai.apiModel=gpt-4 \ --set openai.apiKey=$OPENAI_API_KEY \ --set openai.apiBase=$OPENAI_API_BASE# Forwarding requests to the servicekubectl port-forward service/kube-copilot 8080:80echo "Visit http://127.0.0.1:8080 to use the copilot"
复制代码


Option 2:使用带 CLI 的 kubectl


kubectl run -it --rm copilot \  --env="OPENAI_API_KEY=$OPENAI_API_KEY" \  --restart=Never \  --image=ghcr.io/feiskyer/kube-copilot \  -- execute --verbose 'What Pods are using max memory in the cluster'
复制代码


在本地安装


使用下面的 pip 命令安装 copilot:


pip install kube-copilot
复制代码


设置操作

  • 确保本地计算机上安装了 kubectl,并为 Kubernetes 集群访问配置了 kubeconfig 文件。

  • 安装 trivy 以评估容器映像安全问题(用于 audit 命令)。

  • 将 OpenAI API 密钥设置为 OPENAI_API_KEY 的环境变量,以启用 ChatGPT 功能。

  • 对于 Azure OpenAI 服务,还要设置 OPENAI_API_TYPE=azure,以及 OPENAI_API_BASE=https://<replace-this>.openai.azure.com/

  • Google 搜索默认为禁用。要启用它,请设置 GOOGLE_API_KEYGOOGLE_CSE_ID



使用 CLI 的方法:直接在终端运行。


Usage: kube-copilot [OPTIONS] COMMAND [ARGS]...Kubernetes Copilot powered by OpenAIOptions:  --version  Show the version and exit.  --help     Show this message and exit.Commands:  analyze   analyze issues for a given resource  audit     audit security issues for a Pod  diagnose  diagnose problems for a Pod  execute   execute operations based on prompt instructions  generate  generate Kubernetes manifests
复制代码


审核 Pod 的安全问题:可以使用 kube-copilot audit POD [NAMESPACE] 来审核 Pod 的安全问题。


Usage: kube-copilot audit [OPTIONS] POD [NAMESPACE] audit security issues for a PodOptions:  --verbose      Enable verbose information of copilot execution steps  --model MODEL  OpenAI model to use for copilot execution, default is gpt-4  --help         Show this message and exit.
复制代码


诊断 Pod 存在的问题:利用 kube-copilot diagnose POD [NAMESPACE] 即能诊断 Pod 的问题。


Usage: kube-copilot diagnose [OPTIONS] POD [NAMESPACE] diagnose problems for a PodOptions:  --verbose      Enable verbose information of copilot execution steps  --model MODEL  OpenAI model to use for copilot execution, default is gpt-4  --help         Show this message and exit.
复制代码


分析 K8s Object 的潜在问题:运行 kube-copilot analyze RESOURCE NAME [NAMESPACE] 将分析给定资源对象的潜在问题。


Usage: kube-copilot analyze [OPTIONS] RESOURCE NAME [NAMESPACE]  analyze issues for a given resourceOptions:  --verbose     Enable verbose information of copilot execution steps  --model TEXT  OpenAI model to use for copilot execution, default is gpt-4  --help        Show this message and exit.
复制代码


根据提示指令执行操作kube-copilot execute INSTRUCTIONS 能根据提示指令执行操作。它也可用于询问任何问题。


Usage: kube-copilot execute [OPTIONS] INSTRUCTIONSexecute operations based on prompt instructionsOptions:  --verbose      Enable verbose information of copilot execution steps  --model MODEL  OpenAI model to use for copilot execution, default is gpt-4  --help         Show this message and exit.
复制代码


生成 Kubernetes 清单:使用 kube-copilot generate 命令,根据提示说明创建 Kubernetes 清单。生成清单后,系统会提示您确认是否要应用它们。


Usage: kube-copilot generate [OPTIONS] INSTRUCTIONSgenerate Kubernetes manifestsOptions:  --verbose     Enable verbose information of copilot execution steps  --model TEXT  OpenAI model to use for copilot execution, default is gpt-4  --help        Show this message and exit.
复制代码


Kubernetes ChatGPT bot

这是用于 Kubernetes 问题的 ChatGPT1 bot。它能向 AI 询问如何解决 Prometheus 警报,并获得精炼的回复。



Prometheus 将通过 webhook 接收器将警报转发给 bot。随后 bot 会向 OpenAI 发送查询,询问如何修复警报,您只需要耐心等待结果即可。


这样的 bot 是通过 Robusta.dev 实现的,一个用于响应 Kubernetes 警报的开源平台。我们还有一个用于多集群 Kubernetes 可观察性的 SaaS 平台。


一个 Slack 工作区即为设置它的前提条件。


然后,您只需:


  • 使用 Helm 安装 Robusta

  • 加载 ChatGPT playbook。将以下内容添加到 generated_values.yaml


playbookRepos:  chatgpt_robusta_actions:    url: "https://github.com/robusta-dev/kubernetes-chatgpt-bot.git"customPlaybooks:# Add the 'Ask ChatGPT' button to all Prometheus alerts- triggers:  - on_prometheus_alert: {}  actions:  - chat_gpt_enricher: {}
复制代码


  • generated_values.yaml 中添加 OpenAI API 密钥。确保编辑现有的 globalConfig 部分,不要添加重复的部分。


globalConfig:  chat_gpt_token: YOUR KEY GOES HERE
复制代码


  • 进行 Helm 升级以应用新值


helm upgrade robusta robusta/robusta  --values=generated_values.yaml  --set clusterName=<YOUR_CLUSTER_NAME>
复制代码


  • 将 Prometheus 警报发送到 Robusta。或者,直接使用 Robusta 捆绑的 Prometheus 堆栈。


演示

先部署损坏的 pod,使该 pod 将停留在待处理状态:


kubectl apply -f https://raw.githubusercontent.com/robusta-dev/kubernetes-demos/main/pending_pods/pending_pod_node_selector.yaml
复制代码


随即立即触发 Prometheus 警报,跳过正常延迟:


robusta playbooks trigger prometheus_alert alert_name=KubePodCrashLooping namespace=default pod_name=example-pod
复制代码


Slack 中会出现一个带有按钮的警报。单击该按钮向 ChatGPT 询问有关该警报的信息即可。


Appilot

Appilot 是一款面向 DevOps 场景的开源 AI 助手,它可以充分利用 AI 大语言模型的能力让用户直接输入自然语言进一步简化 K8s 管理体验。


Appilot 基于大语言模型进行推理,并且可以运行在本地个人电脑上。用户可以根据自身的需求和使用习惯,将 Appilot 集成到任意平台,进而实现通过输入自然语言即可调用后端平台的能力,轻松完成应用管理、环境管理、K8s debug 等任务。


Appilot 项目地址 https://github.com/seal-io/appilot

发布于: 刚刚阅读数: 5
用户头像

SEAL安全

关注

开发者友好的企业级解决方案 2020-11-05 加入

公众号:Seal软件 Seal-io

评论

发布
暂无评论
让 K8s 更简单!8款你不得不知的 AI 工具-Part 2_人工智能_SEAL安全_InfoQ写作社区