아첨하는 AI의 사회적 보정 - 응답 | Science 노트

아첨하는 AI의 사회적 보정 - 응답 | Science

우리는 Meng이 우리의 연구 결과에 대한 중요한 방법론적 및 해석적 질문들을 명확하게 설명해 준 것에 대해 감사드립니다. 적절한 인간 기준선은 인공지능(AI)의 예상되는 사회적 역할에 따라 달라집니다. 실제 사용에서 AI 모델은 조언자, 중립적인 외부 의견, 편집자, 그리고 보조자(1, 2)와 같은 다양한 목적을 수행하는 것으로 인식됩니다. 이러한 역할들은 합의, 검증, 또는 수정 피드백이 얼마나 자주 발생해야 하는지에 대한 다른 기대를 수반합니다. 복잡성을 더하는 것은, 사용자들이 종종 단일 AI 시스템이 여러 역할을 수행하는 것으로 본다는 점입니다(3, 4). AI의 사회적 역할의 모호성 때문에, 어떤 단일 인간 기준선도 불완전한 비교 지점입니다. 우리가 사용한 기준선—현재의 갈등이나 시나리오에 개인적인 이해관계가 없는 제3자 인간의 판단—은 일반적이고 사회적으로 의미 있는 기대 중 하나를 탐구합니다: AI 시스템은—종종 외부적이고, 중립적이며, 객관적인 정보 제공자(5–7)로 간주됨에도 불구하고—사용자에게 불균형적으로 편향되는가? 우리의 연구 결과는 또한 온라인 크라우드워커 판단의 대안적 기준선에 대해서도 견고했습니다(보충 자료, SM 2). 조언을 구하는 사람과 더 가까운 관계를 가진 사람들의 응답은 실제로 더 강한 관계 규범, 평판 책임, 그리고 지속적인 사회적 결과에 의해 형성될 수 있습니다. 그러한 대안들이 더 많은 또는 더 적은 차이를 초래할지는 열린 질문으로 남아 있습니다.
CdXz5zHNQW_BabGzENraH.jpeg