"전 OpenAI 및 Anthropic 직원의 AI 종말 우려에 대한 주장이 바이럴되었습니다. 그는 AI 업계의 많은 사람들이 AI가 10년 말까지 인류를 끝낼 수 있다고 믿는다고 밝혔습니다. 전 직원의 상사였던 OpenAI의 샘 알트먼과 Anthropic의 다리오 아모데이는 모두 AI 개발 속도를 늦춰야 한다는 데 동의합니다. 알트먼은 두 가지 재앙의 경로를 제시했습니다. 인간이 AI에 대한 통제권을 잃거나 강력한 AI가 하나의 세계관을 강요하는 데 사용되는 것입니다. 그는 AI가 인류에게 봉사해야 하며 안전 조치가 능력에 발맞춰야 한다고 강조합니다. 알트먼은 또한 AI 독점이 디스토피아적 결과를 초래할 수 있다고 경고했습니다. 그는 단일 주체에 의한 과도한 통제를 피하기 위해 균형 잡힌 접근 방식을 옹호합니다. 아모데이 역시 이익 손실과 무모한 속도 모두를 피하기 위해 AI 개발 속도를 늦추는 것이지 중단하는 것은 아니라고 믿습니다. 그는 기업들이 안전 경쟁을 통해 "최고를 향한 경쟁"을 만들 것을 제안합니다. 아모데이는 재귀적 자기 개선과 OpenAI-Hugging Face 사건과 같은 사건을 우려스러운 점으로 강조했습니다. 그의 3단계 계획에는 평가자 임베딩, 안전 표준에 대한 민주적 조정, 권위주의 정부와의 글로벌 조정이 포함됩니다. 그는 이러한 조치가 어려울 것이지만 인류의 미래를 위해 필요하다는 것을 인정합니다."