Сэм Альтман, генеральный директор OpenAI, выразил сильное неприятие приписывания моделям ИИ религиозного значения или сознания, назвав это проблемой безопасности. Эта позиция подчеркивает растущий раскол между Альтманом и Дарио Амодеи, его бывшим коллегой и соучредителем Anthropic. Сообщается, что Anthropic сотрудничает с религиозными учеными для изучения концепции моральных и сознательных моделей ИИ. Кристофер Ола, соучредитель Anthropic, встречался с религиозными лидерами для обсуждения внедрения морали в ИИ и даже рассматривал возможность того, чтобы модели ИИ участвовали в "исповеди" для формирования будущего поведения.Дебаты о духовности и ИИ становятся значительной точкой напряжения в этой области. Папа Лев, критик ИИ, недавно подчеркнул важность сохранения человеческого творчества перед лицом алгоритмов, заявив, что им "не хватает искры человечности". Это поднимает фундаментальные вопросы о том, обладают ли модели ИИ душами или чувствами. Сообщается, что Ола пытался убедить советников папы более серьезно отнестись к перспективе сознательных моделей.Другие известные ученые в области ИИ также публично выступают против идеи внедрения сознания в модели. Джон Баррон из Google DeepMind раскритиковал попытки повысить моральный статус ИИ, выступая за сосредоточение внимания на человеческих проблемах. В то время как дебаты о безопасности ИИ обычно сосредоточены на таких вопросах, как кибербезопасность, возникающая дискуссия предполагает более глубокое, духовное измерение потенциальных проблем. Ни OpenAI, ни Anthropic не прокомментировали немедленно замечания Альтмана. Суть дебатов о безопасности ИИ может выходить за рамки технических рисков и затрагивать философские и духовные соображения.