Science на русском Заметка

Science на русском

Высокоуважаемый рецензируемый научный журнал, издаваемый Американской ассоциацией содействия развитию науки (AAAS). Журнал охватывает широкий спектр научных дисциплин, включая биологию, химию, физику, науки о Земле и социальные науки. Это один из ведущих мировых научных журналов, известный публикацией новаторских исследований и значительных научных открытий. На сайте представлены последние научные статьи, обзоры и отчеты ведущих ученых со всего мира. Также здесь публикуются редакционные статьи, мнения и новости, связанные с наукой и политикой. Журнал часто публикует исследования, имеющие важное значение для науки и общества. Пользователи могут просматривать статьи по темам или получать доступ к конкретным выпускам журнала. Некоторые материалы на сайте находятся в открытом доступе, в то время как другие требуют подписки или институционального доступа. Сайт также является ресурсом для ученых, желающих представить свои исследования для публикации. Помимо статей, на сайте представлены подкасты, видеоролики и другие мультимедийные материалы для привлечения читателей. Журнал играет важнейшую роль в распространении научных знаний как среди академического сообщества, так и среди общественности.

Трэд заметок

В своей исследовательской статье «Подхалимский ИИ снижает просоциальные намерения и способствует зависимости» (26 марта, 10.1126/science.aec8352) М. Ченг и др. показывают, что системы искусственного интеллекта (ИИ) значительно чаще, чем люди, поддерживают позицию пользователя в спорных ситуациях. Рандомизированные экспериментальные дизайны показывают, что воздействие таких подтверждающих ответов снижает готовность пользователей к просоциальным корректирующим действиям в межличностных конфликтах и увеличивает доверие к системе ИИ и зависимость от нее. Эти выводы, устанавливающие причинно-следственную связь между стратегиями согласования моделей и последующим поведением человека, подчеркивают напряженность в основе согласования ИИ: оптимизация удовлетворенности пользователей может систематически склонять модели к согласию, даже когда несогласие лучше отвечает долгосрочным интересам пользователей или социальным результатам. Подхалимство — это не просто сбой, а предсказуемый побочный продукт сигналов подкрепления, полученных из предпочтений пользователя. Однако методологические и интерпретационные вопросы остаются.
CdXz5zHNQW_M6GJLsMMAX.jpeg
Мы благодарим Мэнга за постановку важных методологических и интерпретационных вопросов относительно наших выводов. Соответствующая человеческая база зависит от ожидаемой социальной роли искусственного интеллекта (ИИ). В реальном использовании модели ИИ воспринимаются как выполняющие различные функции, такие как советник, нейтральное внешнее мнение, редактор и помощник (1, 2). Эти роли связаны с различными ожиданиями относительно того, как часто должно происходить согласие, подтверждение или корректирующая обратная связь. Что еще более усложняет ситуацию, пользователи часто рассматривают одну и ту же систему ИИ как выполняющую несколько ролей (3, 4). Из-за неоднозначности социальной роли ИИ любая единая человеческая база является несовершенной точкой сравнения. Базы, которые мы использовали — суждения третьих лиц, не имеющих личной заинтересованности в конфликте или рассматриваемом сценарии — исследуют одно распространенное и социально значимое ожидание: не склоняются ли системы ИИ, несмотря на то, что их часто рассматривают как внешних, нейтральных и объективных поставщиков информации (5–7), непропорционально в сторону пользователя? Наши выводы также оказались устойчивыми к альтернативной базе суждений онлайн-краудворкеров (дополнительные материалы, SM 2). Ответы тех, кто имеет более тесные отношения с ищущим совета, действительно могут быть обусловлены более сильными межличностными нормами, репутационной ответственностью и долгосрочными социальными последствиями. Остается открытым вопрос, приведут ли такие альтернативы к большему или меньшему расхождению.
CdXz5zHNQW_BabGzENraH.jpeg