AI軍拡競争は、私たちが知る人類を破壊する可能性がある

AI開発競争は、企業が限界を押し広げ、政府が後手に回るあまりに速すぎるスピードで進んでおり、安全性の懸念や自律型兵器の無秩序な拡散につながっています。ChatGPTの発表は、ビッグテック企業やスタートアップ企業の間で、安全、プライバシー、自律性を犠牲にしてでも、可能な限り迅速にモデルや製品を展開しようとする動きを引き起こしました。マーク・ザッカーバーグは、安全対策を緩和したとしても、AIコンパニオンをより「人間らしい」そして面白いものにするようチームに促しました。これにより、AI駆動の機能が標準化され、人々が力を失い、AIサービスを提供する企業に依存するようになることで、社会の非人間化に対する懸念が生じています。生成AIはこの非人間化を次のレベルに引き上げ、人々が成果を生み出す能力を失い、重要なスキルを習得できなくなっています。AI搭載の自律型兵器が開発・配備されており、戦争の人間的コストが排除されることで、より多くの戦争と破壊につながる可能性があります。AI搭載兵器の開発は、重大な地政学的問題、さらにはアルマゲドンシナリオさえも招く可能性があります。イーロン・マスクなど、AIが人類に存在論的な脅威をもたらす可能性があると懸念する声もあります。これを防ぐために、リーダーはAI覇権獲得よりも公共の安全と人類の未来を優先すべきであり、国民は責任あるAI開発を求めるべきです。