생성형 AI 관측 기능, 이제 Amazon CloudWatch에서 정식 출시
"Amazon CloudWatch가 생성형 AI 관찰 기능의 일반 출시를 발표했습니다. 이 기능은 Amazon Bedrock AgentCore를 통해 배포 및 운영되는 에이전트를 포함하여 AI 애플리케이션 및 워크로드의 모든 구성 요소를 모니터링하는 데 도움이 됩니다. 이번 릴리스는 런타임 모니터링을 넘어 AgentCore의 빌트인 도구, 게이트웨이, 메모리 및 ID 기능 전반에 걸친 완전한 관찰 기능을 포함합니다. DevOps 팀과 개발자는 이제 모델 호출부터 에이전트 작업까지 AI 워크로드의 모든 구성 요소에 걸쳐 지연 시간, 토큰 사용량, 오류 및 성능에 대한 즉시 사용 가능한 보기를 얻을 수 있습니다. 이 기능은 Strands Agents, LangChain 및 LangGraph와 같은 인기 있는 생성형 AI 오케스트레이션 프레임워크와 호환되어 프레임워크 선택에 유연성을 제공합니다. 이 새로운 기능을 통해 CloudWatch는 개발자가 생성형 AI 애플리케이션 구성 요소 간의 원격 분석 데이터를 분석할 수 있도록 지원합니다. 고객은 빌트인 도구의 코드 실행 패턴을 모니터링하고, 게이트웨이를 통한 API 변환 성공률을 추적하고, 메모리 저장 및 검색 패턴을 분석하고, ID 관찰을 통해 안전한 에이전트 동작을 보장할 수 있습니다. 연결된 보기는 개발자가 벡터 DB의 격차부터 인증 실패까지 모든 문제를 엔드투엔드 프롬프트 추적, 큐레이션된 메트릭 및 로그를 사용하여 신속하게 식별하는 데 도움이 됩니다. 개발자는 CloudWatch 콘솔의 "AgentCore" 섹션을 통해 전체 에이전트 플릿을 모니터링할 수 있으며, 이 섹션은 Application Signals, Alarms, Sensitive Data Protection 및 Logs Insights를 포함한 다른 CloudWatch 기능과 원활하게 통합됩니다. 이 기능은 현재 미국 동부(버지니아 북부), 미국 동부(오하이오), 미국 서부(오레곤), 유럽(프랑크푸르트), 유럽(아일랜드), 아시아 태평양(뭄바이), 아시아 태평양(도쿄), 아시아 태평양(싱가포르), 아시아 태평양(시드니)에서 사용할 수 있습니다. 자세한 내용은 문서를 참조하십시오. Gen AI 관찰 기능에 대한 추가 요금은 없으며, 기본 원격 분석 데이터에 대한 기존 CloudWatch 요금이 적용됩니다."