Le monde de l'IA générative évolue rapidement, avec des mises à jour constantes et de nouvelles versions de modèles. Vertex AI donne accès à plus de 150 modèles de Google, de partenaires et de la communauté ouverte. Gemini 1.5 Flash offre une faible latence et des prix compétitifs, tandis que Gemini 1.5 Pro bénéficie d'une fenêtre de contexte de 2 millions de jetons, leader de l'industrie, pour des cas d'utilisation complexes. Imagen 3 excelle dans la génération d'images avec des fonctionnalités améliorées et des mesures de sécurité. Gemma 2 représente le modèle ouvert de nouvelle génération de Google avec une puissance et une efficacité accrues. Claude 3.5 Sonnet d'Anthropic rejoint la collection de modèles Vertex AI. Model Builder de Vertex AI permet la personnalisation des modèles et le développement tout-en-un du prototype à la production. La mise en cache de contexte réduit considérablement les coûts d'entrée pour les applications à contexte long. La génération contrôlée garantit les formats de sortie souhaités. L'API Batch optimise l'efficacité pour un grand nombre d'invites non sensibles à la latence. Les capacités de surveillance des modèles améliorées prennent en charge les modèles hébergés en dehors de Vertex AI et fournissent une gestion unifiée. Ray on Vertex AI simplifie les charges de travail d'IA distribuées. Prompt Management propose une bibliothèque d'invites, de versions et de suggestions générées par l'IA. Les services d'évaluation aident à évaluer les performances des modèles grâce à une évaluation rapide et des métriques spécialisées pour la synthèse et les réponses aux questions.