기초 모델 업그레이드 가속화에 대한 세 가지 교훈
새로운 AI 모델로의 업그레이드는 엔지니어링 팀에 상당한 도전 과제를 안겨주며, 종종 수개월에 걸친 수동 테스트와 평가가 필요합니다. AI 개발의 빠른 속도와 잦은 주요 모델 진화는 이 문제를 더욱 악화시키고 있습니다. 구글 클라우드의 응용 머신러닝 팀은 모델 업그레이드 시간을 몇 달에서 몇 시간으로 대폭 단축하는 에이전트틱 워크플로우를 개발했습니다. 이 접근법은 기초 모델 업그레이드를 가속화하는 데 도움이 되는 세 가지 핵심 교훈을 제공하는 블로그 게시물에서 자세히 설명되어 있습니다.첫 번째 수업은 실제 마이그레이션 문제를 이해하고 신속한 최적화 요구를 파악하기 위해 제품 팀과 긴밀히 협력하는 실무 탐색의 중요성을 강조합니다. 두 번째 교훈은 전통적인 자동화가 다양한 데이터 형식과 독특한 예외 사례에 어려움을 겪는 경직성을 경고합니다. 세 번째 교훈은 특정 프로젝트 요구사항에 적응하는 유연한 에이전트 아키텍처로 전환한 성공을 강조합니다.파트너 팀은 이 에이전트 프레임워크를 활용해 비디오 번역 및 더빙 서비스를 기초 모델로 성공적으로 이전했습니다. 데이터셋과 기준 프롬프트를 제공함으로써 시스템은 자율적으로 프롬프트 품질을 향상시켜 맞춤형 모델의 필요성을 없앴습니다. 이 과정은 특정 복잡한 작업에 대해 미세 조정보다 신속한 엔지니어링의 힘을 입증했습니다.유사한 마이그레이션 워크플로우를 구현하기 위해 팀은 Gemini Enterprise Agent Platform과 Google Antigravity를 활용할 수 있습니다. 주요 단계는 수동 검토 대신 자동 품질 평가자(Autoraters) 배포, 에이전트 개발 키트를 이용한 에이전트 루프 구축, Antigravity를 이용한 오케스트레이션 자동화 등이 포함됩니다. 수동 엔지니어링에서 지능형 자동화로의 전환은 기술 부채를 줄이고 조직이 AI 발전에 발맞추는 데 도움을 줍니다. 이 협력 작업에는 구글 전반에 걸쳐 수많은 기여자들이 참여했습니다.