Science на русском
Подписаться
Социальная калибровка подобострастного ИИ — Ответ | Science
Мы благодарим Мэнга за постановку важных методологических и интерпретационных вопросов относительно наших выводов. Соответствующая человеческая база зависит от ожидаемой социальной роли искусственного интеллекта (ИИ). В реальном использовании модели ИИ воспринимаются как выполняющие различные функции, такие как советник, нейтральное внешнее мнение, редактор и помощник (1, 2). Эти роли связаны с различными ожиданиями относительно того, как часто должно происходить согласие, подтверждение или корректирующая обратная связь. Что еще более усложняет ситуацию, пользователи часто рассматривают одну и ту же систему ИИ как выполняющую несколько ролей (3, 4). Из-за неоднозначности социальной роли ИИ любая единая человеческая база является несовершенной точкой сравнения. Базы, которые мы использовали — суждения третьих лиц, не имеющих личной заинтересованности в конфликте или рассматриваемом сценарии — исследуют одно распространенное и социально значимое ожидание: не склоняются ли системы ИИ, несмотря на то, что их часто рассматривают как внешних, нейтральных и объективных поставщиков информации (5–7), непропорционально в сторону пользователя? Наши выводы также оказались устойчивыми к альтернативной базе суждений онлайн-краудворкеров (дополнительные материалы, SM 2). Ответы тех, кто имеет более тесные отношения с ищущим совета, действительно могут быть обусловлены более сильными межличностными нормами, репутационной ответственностью и долгосрочными социальными последствиями. Остается открытым вопрос, приведут ли такие альтернативы к большему или меньшему расхождению.