RSS 쿠버네티스 블로그
팔로우
에이전트 샌드박스를 이용한 쿠버네티스에서 에이전트 실행
생성형 AI는 상태 비저장 함수 호출에서 지속적으로 실행되고 조정되는 AI 에이전트 시스템으로 진화하고 있습니다. 이러한 에이전트는 지속적인 컨텍스트, 도구 사용, 코드 실행, 그리고 장기간에 걸친 에이전트 간 통신을 필요로 합니다. Kubernetes는 이러한 워크로드에 이상적인 인프라이지만, 기존의 기본 요소들은 이러한 상태 저장, 싱글톤 에이전트의 요구 사항에 완벽하게 부합하지 않습니다. SIG Apps에서 개발 중인 새로운 Kubernetes Agent Sandbox 프로젝트는 이러한 격차를 해소하는 것을 목표로 합니다. 이 프로젝트는 AI 에이전트 런타임을 관리하기 위한 사용자 정의 리소스 정의(CRD)를 도입합니다. Sandbox CRD는 gVisor 또는 Kata Containers와 같은 런타임을 사용하여 신뢰할 수 없는 코드 실행에 대한 강력한 격리를 제공합니다. 또한 유휴 상태일 때 에이전트를 0으로 축소하고 즉시 재개할 수 있는 강력한 라이프사이클 관리를 제공합니다. 더 나아가, 각 Sandbox는 원활한 에이전트 간 통신을 위해 안정적인 ID를 할당받습니다. 빠르게 변화하는 AI 분야의 개발을 가속화하기 위해 Extensions API 레이어가 제공됩니다. SandboxWarmPool 확장은 즉시 사용할 준비가 된 사전 프로비저닝된 Sandbox pod 풀을 유지하여 콜드 스타트를 제거합니다. 사용자는 핵심 및 확장 구성 요소를 Kubernetes 클러스터에 설치할 수 있습니다. Agent Sandbox 프로젝트는 오픈 소스이며, 클라우드 네이티브 AI 에이전트의 미래를 구축하기 위한 커뮤니티 참여를 환영합니다.