AI-кодеры сжигают бюджеты — Re... Заметка
VentureBeat на русском

AI-кодеры сжигают бюджеты — Replit, Kilo Code и Symbotic объясняют, как они с этим справляются

В Kilo Code инженеры теперь тратят всего 1% своего времени на написание кода, а остальное выполняют агенты, что порождает новые вопросы для команд разработчиков относительно безопасности системы, очистки моделей, многомодельных архитектур и обоснования растущих расходов на токены. Технические руководители рассматривают это как естественную эволюцию по мере интеграции агентивного ИИ в корпоративные рабочие процессы. В то время как агенты преуспевают в разработке с нуля, человеческое участие имеет решающее значение для задач по доработке существующих систем и принятия обоснованных продуктовых решений. Replit использует агентов для проверки запросов на слияние (pull requests), присваивая им оценки риска и автоматически сливая те, что имеют низкий риск, подчеркивая подход "человек в цикле". Они используют парк безопасных агентов в облачных виртуальных машинах для сквозного выполнения задач, которые однажды решили сложную ошибку, поставившую в тупик инженеров-людей. Поддержка нескольких моделей становится необходимой, при этом Kilo Code предлагает более 500 моделей, позволяя компаниям переключать модели в зависимости от стоимости и этапа проекта. Replit также делает выбор моделей от имени пользователей для оптимизации затрат и возможностей. Управление неконтролируемыми расходами на ИИ вызывает беспокойство, и компании внедряют стратегии, такие как использование дорогих моделей для планирования и более дешевых для выполнения. Symbotic устанавливает ежемесячные лимиты расходов для сотрудников, используя инструменты для отслеживания использования и корректировки уровней. Replit обнаружил значительные расходы на ИИ вне сферы инженерии, подчеркивая необходимость прозрачности, маршрутизации моделей и разумных настроек по умолчанию, поскольку большинство задач не требуют передовых моделей. В конечном итоге, основное внимание уделяется рентабельности инвестиций, измеряя ценность по таким показателям, как стоимость одного запроса на слияние, а не только по расходам.