kagent 是一个 CNCF 沙盒项目，它将 AI 代理直接集成到 Kubernetes 集群中。用户可以使用熟悉的工具（如 kubectl 和 GitOps）在现有 Pod 旁运行 AI 工作负载。其核心理念是为 AI 代理提供统一的抽象层，使其能够与各种语言模型交互，无论是云端的模型（如 Claude）还是本地的模型（如 Ollama）。本指南演示了如何使用 kagent 构建家庭实验室推理栈。kagent 推理栈由多个层级组成：模型提供商、用于指定模型详情的 ModelConfig 资源、定义提示词和工具的 Agent 资源、暴露 Kubernetes 操作的工具服务器，以及管理系统的主控器。前置条件包括 Kubernetes 集群、kubectl、helm、Anthropic API 密钥以及运行本地模型所需的充足资源。kagent 通过 Helm Chart 安装其 CRD 和控制器组件。本指南通过创建针对 Claude 的 ModelConfig 来演示云端推理的搭建，该配置引用存储在 Kubernetes Secret 中的 Anthropic API 密钥。对于本地推理，Ollama 在集群内部署，使用 PersistentVolumeClaim 并暴露为 Service。随后创建另一个针对 Ollama 的 ModelConfig，指向集群内的该 Service。接着，将 Agent 构建为 Kubernetes 自定义资源，指定系统提示词、工具以及对 ModelConfig 的引用。这使得只需更改 ModelConfig 引用，即可使用同一套 Agent 配合不同的模型。用户可以通过 kagent CLI 与这些 Agent 交互，使用特定提示词调用它们，并比较不同模型的响应。指南强调的一项关键安全功能是“人在回路”（Human in the Loop）能力，允许用户为特定 Agent 工具设置审批网关，从而防止 AI 代理对集群资源执行意外或非预期的操作。通过将 AI 代理原生集成到 Kubernetes 中，kagent 提供了一种强大且灵活的方式，在熟悉的基础设施内管理 AI 工作负载。