Martin Fowler на русском
Подписаться
Фрагменты: 8 сентября
Кристиан Каталини подчеркивает, что достижения в области ИИ резко снизили затраты на генерацию, но не на верификацию. Это объясняет, почему ранние продукты ИИ появились в легко проверяемых областях, таких как чат и генерация изображений. Новая граница автоматизации смещается от рутинной против нерутинной работы к измеримой против неизмеримой работе. Опора на неполные измерения производительности ИИ может привести к "поддельной полезности" и "пустой экономике" ослабленных человеческих возможностей. Каталини советует сосредоточиться на истории решений, а не на впечатляющих результатах, поскольку истинная ценность заключается в человеческом суждении. Он критикует антропоморфизацию ИИ-агентов, призывая сосредоточиться на финансовых стимулах и операционных средах. Организации несут ответственность за все действия ИИ-агентов, и стимулы должны сместиться в сторону верификации, а не генерации. Брайан Кантрилл отмечает, что читатели легко распознают контент, сгенерированный ИИ, и не доверяют ему из-за отсутствия аутентичности. Музыкальные издатели подают в суд на компании, занимающиеся ИИ, за использование текстов песен, защищенных авторским правом, в обучающих данных без согласия, называя это кражей интеллектуальной собственности. Стив Йегге предупреждает, что модели ИИ могут превзойти возможности своих создателей по пониманию и обслуживанию, что требует строгого контроля над размером системы. Влиятельный блог Кэти Сьерры "Создание увлеченных пользователей" исчез, став жертвой онлайн-преследований, которые вывели ее из сети. Джессика Керр выступает за "симматезию" — обучающую систему обучающихся частей — и подчеркивает тщательное тестирование ("Vexationes Artium") для кода, сгенерированного ИИ. Она считает, что человеческое воображение и отношения более важны, чем разум в эпоху ИИ. Джим Гамбли подробно описывает сложный ландшафт принятия решений для регулирования ИИ, где коммерческие стимулы сталкиваются с потребностями надзора. Новые модели ИИ, такие как Astra от OpenAI, демонстрируют улучшенное согласование, но сниженную мониторируемость, что усложняет традиционный цикл улучшения программного обеспечения. Климатологи прогнозируют "зрелищно жаркий" год Эль-Ниньо из-за исключительно теплой аномалии температуры океана.