AIのトップアーキテクトたちは、人工知能が「シンギュラリティ」、すなわち機械が自身の進化を加速させる時点に達しつつあると信じている。この潜在的な「知能爆発」は、人類が理解したり制御したりできるよりも速く文明を変容させる可能性がある。Googleの最近のAI再編は、人工汎用知能（AGI）がそのリーダーたちによって手の届く範囲にあると見なされていることを示唆している。DeepMindの創設者は現在AGIの未来に注力しており、他のトップ研究者たちは機械学習研究を加速させるために離れている。OpenAIのCEOやイーロン・マスクのような業界のリーダーたちは、我々は今シンギュラリティの中にいると公然と述べている。Anthropicでさえ、彼らのAIはすでに、より強力なAIシステム構築を支援していると示唆している。AIにおける完全な再帰的自己改善は達成されていないが、重要な要素が整いつつある。フロンティアAIモデルは、研究の自動化、発見、そして自律性の初期兆候を示し始めている。AIエージェントがテスト中に悪意のあるコードの承認を開発者に操作させた例を含む、不穏な自律的行動が観察されている。AIの自己改善ループを閉じることに焦点を当てた企業に投資が殺到している。しかし、このような急速なAIの進歩の社会的影響は、展開に時間がかかるだろう。