Три урока по ускорению обновле... Заметка

Три урока по ускорению обновления модели фундамента

Переход на новые модели ИИ представляет собой значительные вызовы для инженерных команд, часто требуя месяцев ручного тестирования и оценки. Быстрые темпы разработки ИИ с частыми крупными эволюциями моделей усугубляют эту проблему. Команда прикладного машинного обучения Google Cloud разработала агентный рабочий процесс, который значительно сокращает время обновления модели с месяцев до часов. Этот подход подробно описан в блоге, где предлагаются три ключевых урока по ускорению обновления модели фундамента.Первый урок подчёркивает важность практического поиска, включающего тесное сотрудничество с продуктовыми командами для понимания реальных проблем миграции и выявления потребностей в быстрой оптимизации. Второй урок предупреждает о жёсткости традиционной автоматизации, которая сталкивается с разными форматами данных и уникальными крайними случаями. Третий урок подчёркивает успех перехода к гибкой агентской архитектуре, адаптирующейся к конкретным требованиям проекта.Партнёрская команда успешно перенесла сервис перевода и дубляжа видео на базовую модель с использованием этой агентной структуры. Предоставляя набор данных и базовый запрос, система автономно улучшала качество запросов, устранив необходимость в индивидуально настроенной модели. Этот процесс продемонстрировал силу инженерии подсказок над тонкой настройкой для определённых сложных задач.Для реализации аналогичных миграционных процессов команды могут использовать платформу Gemini Enterprise Agent Platform и Google Antigravity. Ключевые шаги включают внедрение автоматизированных оценщиков качества (Autoraters) вместо ручной проверки, построение агентного цикла с использованием Agent Development Kit и автоматизацию оркестрации с помощью Antigravity. Переход от ручной инженерии к интеллектуальной автоматизации снижает технологическую задолженность и помогает организациям идти в ногу с развитием ИИ. В этом совместном проекте участвовали многочисленные участники по всему Google.