Заявления бывшего сотрудника OpenAI и Anthropic о рисках апокалипсиса из-за ИИ стали вирусными. Он заявил, что многие в индустрии ИИ считают, что ИИ может уничтожить человечество к концу десятилетия. Сэм Альтман из OpenAI и Дарио Амодеи из Anthropic, оба бывшие руководители этого сотрудника, согласны с тем, что развитие ИИ необходимо замедлить. Альтман выделил два пути к катастрофе: потеря людьми контроля над ИИ или использование мощного ИИ для навязывания одного мировоззрения. Он подчеркивает, что ИИ должен служить человечеству, а меры безопасности должны соответствовать его возможностям. Альтман также предостерег от монополий в сфере ИИ, которые могут привести к антиутопическим последствиям. Он выступает за сбалансированный подход, чтобы избежать чрезмерного контроля со стороны какой-либо одной организации. Амодеи также считает, что необходимо регулировать темпы развития ИИ, а не останавливать его, чтобы избежать как упущенных выгод, так и безрассудной скорости. Он предлагает компаниям конкурировать в области безопасности, создавая "гонку к вершине". Амодеи назвал рекурсивное самосовершенствование и инциденты, подобные событию OpenAI-Hugging Face, вызывающими беспокойство. Его трехэтапный план включает внедрение оценщиков, демократическую координацию стандартов безопасности и глобальную координацию с авторитарными правительствами. Он признает, что эти меры будут трудными, но необходимыми для будущего человечества.