OpenAI переписывает "небрежную" сделку Пентагона по ИИ после негативной реакции из-за рисков слежки

OpenAI пересматривает свой контракт с Министерством обороны США после критики общественности и опасений сотрудников по поводу внутренней слежки. Первоначальное соглашение, заменившее Anthropic, было поспешным и воспринято как оппортунистическое. Генеральный директор Сэм Альтман заявил, что пересмотренный контракт будет прямо запрещать преднамеренное использование систем искусственного интеллекта для внутренней слежки за гражданами США. Разведывательные агентства, такие как АНБ, исключены из первоначальной сферы действия сделки. Министерство обороны и OpenAI добавляют четкие формулировки, чтобы подтвердить обязательство не использовать свои инструменты искусственного интеллекта в отношении граждан США. Министерство обороны созывает рабочую группу для постоянного диалога по вопросам искусственного интеллекта, конфиденциальности и проблем безопасности, в котором участвует OpenAI. OpenAI планирует полагаться на договорные положения и технические средства контроля для поддержания своих красных линий. Споры возникли после того, как переговоры Anthropic с Пентагоном сорвались из-за аналогичных опасений по поводу массовой слежки. Последствия включают действия правительства против Anthropic и внутренние разногласия в OpenAI. Сотрудники OpenAI и Google подписали открытое письмо, выражающее обеспокоенность требованиями правительства. В результате также возникли общественные протесты и изменения в поведении потребителей. Майлз Брандейдж, бывший руководитель отдела политических исследований OpenAI, раскритиковал то, как компания вела переговоры.