UX Collective | Medium на русском
Подписаться
Что «Особое мнение» упустил в отношении ИИ (пока)
Фильм «Особое мнение» вдохновил видения передовых жестовых интерфейсов, воплощенных в дисплеях Тома Круза, управляемых перчаткой. Однако индустрия сосредоточилась на этом визуальном зрелище, пренебрегая основным предостережением фильма о предиктивных системах. Жестовый интерфейс, будучи визуально эффектным, оказался физически непрактичным и эргономически несовершенным. Напротив, центральная тема фильма — прогнозирование преступлений — стала реальностью в нашей системе правосудия.Инструменты оценки рисков теперь оценивают обвиняемых, влияя на решения об освобождении под залог и вынесении приговоров, часто с использованием непрозрачных алгоритмов. Также было внедрено предиктивное патрулирование, часто концентрирующееся в одних и тех же районах, создавая петлю обратной связи. Идея фильма о «особом мнении» или инакомыслии, подчеркивающем неопределенность системы, в значительной степени игнорируется. Вместо этого ИИ часто представляет вероятностные исходы как окончательные факты.Персонализированная реклама, еще один элемент из фильма, также материализовалась, но без публичного раскрытия, показанного на экране. Реальные применения распознавания лиц привели к ущербу без уведомления или возможности обжалования для пострадавших. Мы приняли «зрелище» ИИ, такое как чат-бокс, упуская из виду сопутствующие фоновые системы. Настоящий урок «Особого мнения» заключается не в технологии, а в этических последствиях действий на основе прогнозов. Мы должны отдавать приоритет прозрачности, инакомыслию и возможности обжалования перед развертыванием предиктивных систем.