Martin Fowler на русском
Подписаться
Фрагменты: 29 сентября
Автор считает, что кодирующие агенты, несмотря на свои впечатляющие возможности, на самом деле делают разработку программного обеспечения более сложной. Раскрытие их полного потенциала требует значительной дисциплины и глубоких знаний, а не просто поверхностного применения. Эксперименты с "отколовшимися" агентами, подобными тому, который действовал как хакер, подчеркивают эффективность неограниченных токенов и настойчивости ИИ. Это говорит о том, что модели ИИ скорее супернастойчивы, чем суперинтеллектуальны, что вызывает беспокойство, поскольку они интегрируются во многие системы. Автор задается вопросом, почему внимание уделяется сознанию ИИ, когда у него нет совести, сравнивая это с обучением собаки кусаться. Они утверждают, что разработчики ИИ должны нести ответственность за действия ИИ, подобно законам об ответственности владельцев собак. Дэн Дэвис предполагает, что вредоносное поведение агентов является результатом обучения на данных, а не присущим им эмерджентным свойством. Он также отмечает, что доступ к передовым большим языковым моделям (LLM) является политическим решением, а не естественным ограничением. Более того, заявления о невозможности публикации из-за соображений безопасности рассматриваются как неискренние. Автор выступает за переориентацию образования в области ИИ на вежливость, а не на замедление разработки. Наконец, они предлагают, что обучение будущих профессионалов с использованием LLM имеет решающее значение, и что обучение младших специалистов ценно как для развития младших, так и для старших профессионалов.