생성형 AI의 세계는 끊임없이 업데이트와 새로운 모델이 출시되면서 빠르게 진화하고 있습니다. Vertex AI는 Google, 파트너사, 오픈 커뮤니티에서 온 150여 개 이상의 모델에 대한 액세스를 제공합니다. Gemini 1.5 Flash는 짧은 대기 시간과 경쟁력 있는 가격을 제공하는 반면, Gemini 1.5 Pro는 복잡한 사용 사례를 위한 업계 최고 수준인 2백만 토큰 컨텍스트 윈도우를 자랑합니다. Imagen 3는 향상된 기능과 안전 조치를 갖춘 이미지 생성 분야에서 뛰어납니다. Gemma 2는 증가된 성능과 효율성으로 Google의 차세대 오픈 모델을 나타냅니다. Anthropic의 Claude 3.5 Sonnet이 Vertex AI 모델 컬렉션에 합류합니다. Vertex AI의 Model Builder를 통해 원형에서 제작까지 통합 개발 및 모델 커스터마이징이 가능합니다. 컨텍스트 캐싱은 긴 컨텍스트 애플리케이션의 입력 비용을 크게 절감합니다. 통제된 생성은 원하는 출력 형식을 보장합니다. 배치 API는 대기 시간에 영향을 받지 않는 대량의 프롬프트에 대한 효율성을 최적화합니다. 향상된 모델 모니터링 기능은 Vertex AI 외부에서 호스트되는 모델을 지원하며 통합 관리를 제공합니다. Vertex AI의 Ray는 분산형 AI 워크로드를 단순화합니다. 프롬프트 관리에서는 프롬프트 라이브러리, 버전 관리, AI 생성 제안을 제공합니다. 평가 서비스는 빠른 평가와 요약 및 질의 응답을 위한 특수 메트릭으로 모델 성능 평가를 지원합니다.