元Google DeepMindの従業員が、他のAI研究者と共に、人工知能が人類にとって存亡の危機をもたらす可能性があると警告しています。Bilal Chughtai氏は、AIが大量死を引き起こす可能性があり、それを防ぐための時間は刻々と失われていると信じていると表明しました。これは、Anthropicの研究者らが提起した同様の懸念に続くもので、一人は10年以内にAIが全人類を殺害する可能性が非常に高いと述べています。これらの警告は、高度なAI能力に対する公衆の懸念の高まりを浮き彫りにしています。対照的に、MetaのCEOであるMark Zuckerberg氏は、AI開発の協調的な減速を求める声に反論しています。彼は、個々のAI企業は自社の技術が安全であることを保証する動機と責任があると主張しています。Zuckerberg氏は、各ラボが安全なペースでAIを開発する責任とインセンティブを持っていると考えています。彼は、MetaがMuse AIエージェントのリリースを安全上の理由で遅延させたことを、彼らのアプローチの例として挙げました。Zuckerberg氏は、再帰的な自己改善が可能なシステムよりも、安全なAIモデルの構築を優先することを提唱しています。彼は、計算能力を自己改善の加速ではなく、人々にサービスを提供することに集中させることを提案しています。しかし、彼はまた、独立した評価者やアドバイザーの価値を認め、Metaがすでにそれらを利用していると述べています。最終的に、Zuckerberg氏は、達成可能な前向きな未来のために、権力の均衡を維持することが鍵であると信じています。