AI研究者のジェイコブ・コックスン氏は、OpenAIやAnthropicのようなAI企業が自己改善型超知能に向かって無責任に加速していると警告し、Anthropicを辞任しました。彼は、これらの企業内の多くの人々が、AIが今世紀末までに実存的リスクをもたらす可能性があると個人的に恐れていると述べました。コックスン氏の辞任投稿は大きな注目を集め、AI開発の急速なペースに対する内部の懸念を浮き彫りにしました。この感情は、実存的恐怖が夜も眠らせないことを認める他のAIスタッフによっても繰り返されています。AIの安全性とペースに関する緊急の議論は、シリコンバレーのAIコミュニティ内で一般的になりつつあります。一部の研究者は、AIが広範な損害を引き起こしたり、人類を終わらせたりする substantial な可能性があると考えています。コックスン氏は特に、その必然性への信念によって推進される自己改善型AIへの競争を開始したAnthropicを批判しました。彼は、開発の遅延はAIリスクをゼロに減らすことができると示唆しましたが、これには業界リーダーからの抜本的な行動が必要です。コックスン氏は、生の経済的価値から、医療のような人類に利益をもたらすアプリケーションへと焦点を移すことを提案しています。彼はまた、潜在的にさらに致命的な超知能の前兆としての大量失業の差し迫った脅威にも言及しています。コックスン氏は、AI開発の急速な進歩によって無力感を感じている人々からの透明性と擁護を奨励しています。