レオ教皇、AIの危険性を警告　MIT研究者は『存続の危機』の確率を90%と予測

レオ14世は、初めての演説で、人工知能を人類にとっての主要な問題として強調し、人間の尊厳、正義、労働に関する懸念を反響させた。彼はこれを教会の社会教義と結びつけ、レオ13世の『新事実』のencyclicalと並行させた。レオ14世の懸念は、故フランシスコス教皇の無規制の開発に関する警告を反映している。フランシスコスは、人間中心のAI開発を確保するための条約の必要性を強調した。MITの物理学者マックス・テグマークは、超知能の開発を原子時代の黎明と比較し、存亡の脅威を強調した。テグマークは、AIシステムの制御不能の確率を評価する「コンプトン定数」を提案している。彼の研究では、高度に進んだAIが存亡の脅威をもたらす確率が90%であると推定している。彼は、原子爆弾の初めての実験前のリスクアセスメントと同様の、AI企業による厳格なリスクアセスメントを提唱している。テグマークは、シンガポールコンセンサスを共同執筆し、AIの影響を測定し、行動を定義し、制御を確保することを目的としている。 international cooperation on AI safetyは、最近のサミットの後、勢いを取り戻しつつあると報告されている。テグマークは、この再度の焦点が、世界の安全体制にとって非常に重要であると信じている。