Anthropic обязуется использова... Заметка
Slashdot на русском

Anthropic обязуется использовать независимых оценщиков ИИ и выступает за более медленное развитие. Генеральный директор Nvidia хочет развивать его «так быстро, как только возможно».

Генеральный директор Anthropic Дарио Амодеи на конференции в Сан-Франциско высказался за замедление развития ИИ. Он предложил привлечь сторонних оценщиков, координировать стандарты безопасности между демократическими странами и в конечном итоге добиться глобальной координации. Тем временем генеральный директор Nvidia Дженсен Хуанг призвал компании "работать так быстро, как только можете", и выступил против новых правил. Хуанг предложил компаниям, занимающимся ИИ, самостоятельно обеспечивать безопасность продукции перед выпуском. Бывший президент Дональд Трамп поддержал мнение Хуанга, назвав опасения по поводу ИИ "мистификацией", которая принесет пользу Китаю. Генеральный директор OpenAI Сэм Альтман признал быстрое развитие моделей ИИ и необходимость повышения строгости контроля и безопасности. Он заявил, что у общественности есть веские причины опасаться потенциальной потери контроля над ИИ и концентрации власти. Соучредитель Google DeepMind поддержал подход Амодеи, а Сатья Наделла из Microsoft одобрил более широкое тестирование сторонними организациями и меры безопасности, а также опубликовал внутренние руководства по разработке ИИ. Инвестор Майкл Бьюрри отверг эти призывы как корыстные, утверждая, что большие языковые модели еще не являются искусственным общим интеллектом. Он считает, что конкуренция выгодна нынешним лидерам, а предупреждения служат для раздувания ажиотажа перед IPO. Бывший глава отдела ИИ Meta Ян Лекун и специалист по этике ИИ Тимнит Гебру также выразили скептицизм, предположив, что призывы к замедлению неискренни. Однако некоторые, как комментатор CNN Ван Джонс, по-прежнему обеспокоены, указывая на отсутствие четкого направления и серьезность предупреждений уходящих специалистов по этике ИИ.