인공지능과 알고리즘을 제한하는 대신, 설명 가능하게 만들어야 합니다.

소셜 미디어 피드부터 법적 판결까지, 의사 결정 과정에서 AI 사용이 증가하면서 투명성과 책임성에 대한 우려가 커지고 있습니다. 알고리즘 사용을 규제하려는 시도가 많지만, 특정 기술을 제한하는 것보다 설명 가능성을 확보하는 데 초점을 맞춰야 합니다. 소프트웨어 기반 의사 결정의 영향을 받는 모든 개인은 그 결과를 이끌어낸 요소와 논리를 명확히 이해할 권리가 있습니다. 이러한 투명성은 오류를 식별하고 편견을 해결하며 개인이 시스템을 효과적으로 이용할 수 있도록 하는 데 매우 중요합니다. 저자는 불투명한 자동차 렌탈 요금에 대한 개인적인 일화를 통해 설명 가능성의 부재가 고객 불만족과 기업의 불필요한 비용으로 이어질 수 있음을 보여줍니다. 이 원칙을 AI에 적용하면, 소셜 미디어 회사는 사용자가 콘텐츠 선택을 이해할 수 있도록 피드 알고리즘을 설명할 수 있어야 합니다. 그러나 현재 AI가 이러한 설명을 제공하는 데 제한적인 부분은 설명 가능성이 개선될 때까지 특정 영역에서 AI 사용을 제한해야 할 타당한 이유가 됩니다. 설명 가능성에 대한 이러한 강조는 모든 자동화된 의사 결정에 대한 철저한 정당화를 요구하는 것이 아닙니다. 오히려 의사 결정에 대한 논란이 있거나 공정성에 대한 우려가 제기될 때 투명성을 요구해야 함을 강조합니다. AI는 귀중한 제안을 제공할 수 있지만, 특히 AI의 영향을 받는 경우 인간 의사 결정자는 자신의 선택을 설명할 책임을 유지해야 합니다. 궁극적으로 목표는 불투명한 의사 결정 환경을 조성하는 것이 아니라 AI를 인간의 이해를 증진하고 보다 투명한 시스템을 개발하기 위한 도구로 활용하는 것입니다.