AI 연구원인 Jacob Coxon은 OpenAI와 Anthropic과 같은 AI 기업들이 책임감 없이 스스로 개선되는 초지능을 향해 가속하고 있다고 경고하며 Anthropic을 사임했습니다. 그는 이들 기업 내 많은 사람들이 AI가 10년 말까지 실존적 위험을 초래할 수 있다고 사적으로 두려워하고 있다고 밝혔습니다. Coxon의 사임 게시물은 AI 개발의 빠른 속도에 대한 내부 우려를 강조하며 상당한 반향을 얻었습니다. 이러한 감정은 실존적 두려움 때문에 밤잠을 설치는 다른 AI 직원들에 의해서도 공감을 얻고 있습니다. AI 안전과 속도에 대한 긴급한 논의는 실리콘밸리 AI 커뮤니티 내에서 흔해지고 있습니다. 일부 연구원들은 AI가 광범위한 피해를 야기하거나 심지어 인류를 종식시킬 상당한 가능성이 있다고 믿습니다. Coxon은 특히 Anthropic이 필연성에 대한 믿음에 의해 주도되어 스스로 개선되는 AI를 향한 경쟁을 시작했다고 비판했습니다. 그는 개발 지연이 AI 위험을 제로로 줄일 수 있다고 제안했지만, 이는 업계 리더들의 과감한 조치를 필요로 합니다. Coxon은 원시 경제적 가치에서 의료와 같이 인류에게 이익이 되는 응용 분야로 초점을 전환할 것을 제안합니다. 그는 또한 잠재적으로 더 치명적인 초지능의 전조로서 대량 실업의 임박한 위협을 언급합니다. Coxon은 AI 개발의 빠른 진전에 의해 무력감을 느끼는 사람들의 투명성과 옹호를 장려합니다.