Не ограничивайте искусственный интеллект и алгоритмы, а сделайте их понятными

Возросшее использование ИИ в процессах принятия решений, от лент социальных сетей до вынесения юридических приговоров, вызвало опасения по поводу прозрачности и подотчетности. Хотя часто предлагаются правила для ограничения использования алгоритмов, особое внимание следует уделять обеспечению понятности, а не ограничению конкретных технологий. Каждый человек, на которого влияет решение, принимаемое с помощью программного обеспечения, заслуживает четкого понимания факторов и логики, которые привели к этому результату. Эта прозрачность имеет решающее значение для выявления ошибок, устранения предубеждений и обеспечения эффективного перемещения людей в системах. Автор иллюстрирует этот момент личным анекдотом о непрозрачной плате за аренду автомобиля, подчеркивая, как отсутствие понятности может привести к недовольству клиентов и ненужным расходам для предприятий. Применяя этот принцип к ИИ, автор утверждает, что компании социальных сетей должны иметь возможность объяснять свои алгоритмы подачи, позволяя пользователям понимать выбор контента. Однако текущие ограничения ИИ в предоставлении таких объяснений являются веской причиной для ограничения их использования в определенных доменах до тех пор, пока не улучшится понятность. Этот акцент на понятности не следует толковать как призыв к исчерпывающим обоснованиям каждого автоматизированного решения. Вместо этого он подчеркивает необходимость прозрачности, когда решения оспариваются или вызывают опасения по поводу справедливости. Хотя ИИ может предложить ценные предложения, лица, принимающие решения, должны сохранить ответственность за объяснение своего выбора, особенно когда на них влияет ИИ. В конечном итоге цель должна заключаться в том, чтобы использовать ИИ в качестве инструмента для улучшения человеческого понимания и разработки более прозрачных систем, а не позволять ему создавать непрозрачную среду принятия решений.