OpenAIのCEOであるサム・アルトマンは、AIモデルに宗教的な意味合いや意識を帰属させることに強い不快感を表明し、それを安全上の懸念と呼んだ。この姿勢は、アルトマンと、彼の元同僚でありAnthropicの共同創設者であるダリオ・アモデイとの間の、広がりつつある意見の相違を浮き彫りにしている。Anthropicは、道徳的で意識のあるAIモデルの概念を探求するために、宗教学者と関わっていると報じられている。Anthropicの共同創設者であるクリストファー・オラーは、特に宗教指導者と会談し、AIに道徳を注入することについて議論し、将来の行動を形成するためにAIモデルが「告白」を行うことも検討した。スピリチュアリティとAIを巡る議論は、この分野における重要な論争点となりつつある。AI批判者である教皇レオは最近、アルゴリズムに対する人間の創造性を維持することの重要性を強調し、それらは「人間性の輝きを欠いている」と述べた。これは、AIモデルが魂や感情を持っているかどうかという根本的な問いを提起する。オラーは、意識のあるモデルの可能性を教皇の顧問たちに真剣に受け止めるよう説得しようとしたと報じられている。他の著名なAI科学者も、モデルに意識を注入するという考えに公然と反対している。Google DeepMindのジョン・バロンは、AIの道徳的地位を高めようとする試みを批判し、人間の問題に焦点を当てることを提唱した。AIの安全性に関する議論は通常、サイバーセキュリティのような問題に焦点を当てているが、新たに浮上している議論は、潜在的な問題に対するより深く、より精神的な次元を示唆している。OpenAIもAnthropicも、アルトマンの発言について直ちにコメントしなかった。AIの安全性に関する議論の核心は、技術的なリスクを超えて、哲学的および精神的な考慮事項にまで及ぶ可能性がある。