今週のAIドラマにおけるゲイリー・マーカス
OpenAIは、ナビエ・ストークス問題に関連する数学コンテストで不正行為をしたと非難されています。彼らは提供された賞金よりも大幅に多くの計算資源を費やしたと報じられています。OpenAIは、コンテストに参加している数学者の研究を利用または学習した可能性があると疑われています。これは、OpenAIがCodexやChatGPTのようなモデルのユーザーから知的財産を盗む可能性についての懸念を引き起こします。一方、Anthropicは、従業員が公に辞任したことで内部的な論争に直面しています。その従業員は、人工知能開発に対する同社の無謀さが増していることへの懸念を表明しました。それにもかかわらず、Anthropicの現職の研究者は、元従業員の評価に同意しています。この研究者は、AIが今後10年間で人類に実存的な脅威をもたらす可能性がかなりあると考えています。彼は、Anthropicには超知能のアライメントを保証するための決定的な計画がないことを認めています。著者は、AIのリスクが現実的であっても、このレベルの警鐘は不合理であると批判しています。彼は、そのような言葉遣いは、Anthropicが合理的な組織というよりはカルトのように運営されていることを示唆していると主張しています。著者は、そのような集団を去った元従業員は、依然としてカルト的な思考を示す可能性があると考えています。