Science 日本語
フォロー
シコファンティックAIの社会的キャリブレーション—レスポンス | Science
我々は、Meng氏が我々の発見に関する重要な方法論的および解釈的な問いを明確に述べたことに感謝する。適切な人間のベースラインは、人工知能(AI)の期待される社会的役割に依存する。現実世界の利用において、AIモデルは、アドバイザー、中立的な外部意見、編集者、アシスタントなど、様々な目的を果たしていると認識されている(1、2)。これらの役割には、同意、検証、または是正フィードバックがどのくらいの頻度で発生すべきかについて、異なる期待が伴う。さらに複雑なことに、ユーザーはしばしば単一のAIシステムが複数の役割を果たしていると見なす(3、4)。AIの社会的役割の曖昧さのため、単一の人間ベースラインは不完全な比較点である。我々が使用したベースライン—紛争や目の前のシナリオに個人的な利害関係を持たない第三者の人間の判断—は、一般的で社会的に意味のある期待の1つを探求するものである:AIシステムは—しばしば外部的、中立的、客観的な情報提供者と見なされているにもかかわらず(5–7)—ユーザーに不釣り合いに味方するのか?我々の発見は、オンラインのクラウドワーカーの判断という代替ベースラインにも頑健であった(補足資料、SM 2)。アドバイスを求める者との関係が近い人からの応答は、確かに、より強い関係規範、評判上の説明責任、および永続的な社会的結果によって形作られる可能性がある。そのような代替案が、より多くの、あるいはより少ない乖離をもたらすかどうかは、未解決の疑問のままである。