Gemini Enterprise Agent Platform에서 AI 에이전트 및 모델 모니터링 실습하기
모델 또는 에이전트의 배포는 첫 번째 단계일 뿐입니다. 요청 처리가 시작되면 모델이 얼마나 자주 호출되는지, 요청 처리 시간은 얼마나 걸리는지, 토큰이 얼마나 사용되는지, 오류가 발생하는지 등을 추적할 방법이 필요합니다. 에이전트의 경우 각 단계에서 무슨 일이 일어나고 있는지 알고 싶기도 합니다.Gemini Enterprise Agent Platform은 이러한 가시성을 확보하기 위한 다양한 방법을 제공합니다. Cloud Monitoring은 모델 및 에이전트와 관련된 운영 메트릭을 담당하고, Cloud Logging은 실행 세부 정보 및 오류를 탐색할 수 있도록 하며, Cloud Trace는 에이전트 실행에 대한 추가 인사이트를 얻는 데 도움이 될 것입니다.