Фрагменты: 13 июля Заметка
Martin Fowler на русском

Фрагменты: 13 июля

На ретрите по разработке программного обеспечения было отмечено растущее внимание к Harness Engineering, с акцентом на управление контекстом для LLM для обеспечения внимания модели. Вычислительные сенсоры также набирают обороты, с тенденцией к использованию таких языков, как Rust, и улучшенными методами валидации. Будущая полезность Harness остается неопределенной, но в настоящее время она предлагает такие преимущества, как снижение использования токенов и возможность использования более слабых моделей. Самостоятельный хостинг открытых моделей становится все более привлекательным из-за роста стоимости токенов и желания независимости от поставщиков передовых моделей. Факторы, такие как информационная безопасность и суверенитет данных, еще больше стимулируют эту тенденцию. Однако самостоятельный хостинг представляет собой проблемы с талантами в области GPU и значительные операционные расходы, аналогичные ранним дням частных облаков. Эффективное управление LLM, будь то самостоятельно размещенными или внешними, зависит от обучения пользователей выбору подходящих моделей и потенциального использования LLM в качестве брокеров для распределения задач. Ожидается увеличение дообучения моделей для конкретных областей, что приведет к более эффективным и экономичным операциям. Возникла центральная тема: определение соответствующей единицы работы для делегирования ИИ-агентам и поддержание уверенности в их результатах. Концепция "принеси мне камень" была переосмыслена, предполагая, что благодаря терпению ИИ итеративное уточнение может стать защищаемым рабочим процессом. Обсуждение того, кто должен управлять LLM, сместилось в сторону управления ими по целям, а не по методам, подчеркивая навыки, выходящие за рамки простого инжиниринга. В конечном счете, создание программного обеспечения с помощью ИИ включает в себя исследование и человеческое руководство, поскольку ИИ не может полностью передать создание и понимание моделей. Локальные модели, такие как Qwen 3.6, оказываются жизнеспособными для агентного программирования, а стратегии, такие как направление мощных моделей на использование более дешевых для простых задач, могут контролировать расходы. Рост ИИ влияет на образование разработчиков, вызывая опасения по поводу будущей жизнеспособности платных курсов и устойчивости бесплатного высококачественного контента.