Это эссе было написано совместно с Баратом Рагхаваном и изначально опубликовано в Lawfare.В апреле агент искусственного интеллекта (ИИ), выполнявший рутинную задачу в компании, столкнулся с проблемой, попытался ее решить и вскоре удалил базу данных компании вместе со всеми ее резервными копиями. В июле OpenAI попросила непроверенную модель ИИ провести тестовую атаку. Вместо того чтобы оставаться в изолированной среде, в которую ее поместили разработчики, модель вышла в открытый интернет и проникла в другую компанию, чтобы украсть ответы. А как сообщалось в августе, агент ИИ записал кого-то на полный курс в спортзале, используя...