Мир генеративного ИИ стремительно развивается, постоянно появляются обновления и новые выпуски моделей. Vertex AI предоставляет доступ к более чем 150 моделям от Google, партнеров и открытого сообщества. Gemini 1.5 Flash отличается низкой задержкой и конкурентоспособными ценами, в то время как Gemini 1.5 Pro может похвастаться ведущим в отрасли контекстным окном на 2 миллиона токенов для сложных вариантов использования. Imagen 3 превосходит в генерации изображений благодаря расширенным функциям и мерам безопасности. Gemma 2 представляет модель нового поколения Google с повышенной мощностью и эффективностью. Claude 3.5 Sonnet от Anthropic входит в коллекцию моделей Vertex AI. Model Builder от Vertex AI позволяет настраивать модели и осуществлять сквозную разработку от прототипа до производства. Кэширование контекста значительно снижает затраты на ввод для приложений с длинным контекстом. Управляемая генерация гарантирует желаемые форматы вывода. Пакетный API оптимизирует эффективность для большого количества нечувствительных к задержкам запросов. Расширенные возможности мониторинга моделей поддерживают модели, размещенные вне Vertex AI, и обеспечивают унифицированное управление. Ray в Vertex AI упрощает распределенные рабочие нагрузки ИИ. Управление запросами предлагает библиотеку запросов, управление версиями и предложения, созданные с помощью ИИ. Службы оценки помогают в оценке производительности модели с помощью быстрой оценки и специализированной метрики для обобщения и ответа на вопросы.