元OpenAIおよびAnthropicの従業員のAI終末論に関する主張がバイラルになっています。彼は、AI業界の多くの人が、AIが今世紀末までに人類を終わらせる可能性があると信じていると述べました。OpenAIのサム・アルトマンとAnthropicのダリオ・アモデイは、どちらもその従業員の元上司であり、AI開発はスローダウンする必要があることに同意しています。アルトマンは、人間がAIに制御を失うか、強力なAIが単一の世界観を押し付けるために使用されるかの2つの破滅への道筋を概説しました。彼は、AIは人類に奉仕しなければならず、安全対策は能力に追いつく必要があると強調しています。アルトマンはまた、AIの独占がディストピア的な結果をもたらす可能性についても警告しました。彼は、単一のエンティティによる過度の制御を避けるために、バランスの取れたアプローチを提唱しています。アモデイも、失われた利益と無謀なスピードの両方を避けるために、AI開発を停止するのではなく、ペースを合わせる必要があると考えています。「トップへの競争」を生み出すために、企業が安全性で競争することを提案しています。アモデイは、再帰的な自己改善とOpenAI-Hugging Faceのイベントのようなインシデントを懸念すべきこととして強調しました。彼の3段階の計画には、評価者の埋め込み、安全基準に関する民主的な調整、権威主義政府とのグローバルな調整が含まれます。彼は、これらの措置は困難であるが、人類の未来のために必要であると認めています。