Исследователь ИИ Джейкоб Коксон ушел из Anthropic, предупредив, что компании, занимающиеся ИИ, такие как OpenAI и Anthropic, безответственно ускоряются к самосовершенствующемуся сверхинтеллекту. Он выразил мнение, что многие внутри этих компаний в частном порядке опасаются, что ИИ может привести к экзистенциальным рискам к концу десятилетия. Пост Коксона об уходе получил значительный резонанс, подчеркнув внутренние опасения по поводу быстрых темпов развития ИИ. Это мнение разделяют и другие сотрудники ИИ, которые признают, что эти экзистенциальные страхи не дают им спать по ночам. Срочные дискуссии о безопасности и темпах развития ИИ становятся обычным явлением в сообществе ИИ Кремниевой долины. Некоторые исследователи считают, что существует значительная вероятность того, что ИИ может причинить широкомасштабный вред или даже положить конец человечеству. Коксон конкретно раскритиковал Anthropic за начало гонки к самосовершенствующемуся ИИ, движимой верой в его неизбежность. Он предположил, что задержка в разработке может свести риски ИИ к нулю, но это требует решительных действий со стороны лидеров отрасли. Коксон предлагает переключить внимание с чистой экономической выгоды на приложения, которые приносят пользу человечеству, например, в здравоохранении. Он также отмечает надвигающуюся угрозу массовой безработицы как предвестника потенциально более смертоносного сверхинтеллекта. Коксон призывает к прозрачности и активной позиции со стороны тех, кто чувствует себя бессильным перед быстрым прогрессом в разработке ИИ.