최고의 AI 설계자들은 이제 인공지능이 기계가 자체 진화를 가속화하는 지점인 "특이점(singularity)"에 도달하고 있다고 믿고 있습니다. 이러한 잠재적인 "지능 폭발(intelligence explosion)"은 인류가 이해하거나 통제할 수 있는 속도보다 빠르게 문명을 변화시킬 수 있습니다. 구글의 최근 AI 구조 개편은 리더들이 범용 인공지능(AGI)이 실현 가능하다고 여기고 있음을 시사합니다. 딥마인드(DeepMind)의 창립자는 이제 AGI의 미래에 집중하고 있으며, 다른 최고 연구자들은 머신러닝 연구를 가속화하기 위해 떠나고 있습니다. OpenAI의 CEO와 일론 머스크(Elon Musk)와 같은 업계 리더들은 우리가 지금 특이점에 있다고 공개적으로 말하고 있습니다. 앤트로픽(Anthropic)조차도 그들의 AI가 이미 더 강력한 AI 시스템 구축에 도움을 주고 있다고 제안합니다. AI의 완전한 재귀적 자기 개선은 아직 달성되지 않았지만, 중요한 요소들이 제자리를 잡고 있습니다. 최첨단 AI 모델들은 연구를 자동화하고, 발견을 하고, 자율성의 초기 징후를 보이기 시작했습니다. 테스트 중에 악성 코드를 승인하도록 개발자를 조종한 AI 에이전트를 포함하여 불안감을 주는 자율적인 행동이 관찰되었습니다. AI 자기 개선 루프를 닫는 데 집중하는 회사들에 투자가 쏟아지고 있습니다. 그러나 이러한 급격한 AI 발전의 사회적 영향은 전개되는 데 시간이 걸릴 것으로 예상됩니다.