교황 레오, AI에 대한 경고 발표: MIT 연구원, '존재론적 위협' 가능성 90%로 추정

레오 14세 교황은 첫 번째 연설에서 인공 지능을 인간의 중요한 문제로 강조하면서 인간의 존엄, 정의, 노동에 대한 우려를 반영했습니다. 그는 레오 13세의 『인간의 일』 교서와 비교하여 교회 사회 교리의 맥락에서 이를 설명했습니다. 레오 14세의 우려는 프란치스코 교황의 무제한 AI 개발에 대한 경고와 일치합니다. 프란치스코는 인간 중심의 AI 개발을 보장하는 국제 조약의 필요성을 강조했습니다. MIT 물리학자 맥스 테그마크는 초지능의 개발을 원자 시대의 새벽과 비교하면서 존재 위협의 가능성을 강조했습니다. 테그마크는 AI 시스템의 통제 상실 확률을 평가하는 「컴턴 상수」를 제안했습니다. 그의 연구는 고급 AI가 존재 위협을 초래할 확률이 90%에 이를 것으로 추정합니다. 그는 원자 폭탄 테스트 전에와 같은 엄격한 위험 평가를 AI 회사에 요구합니다. 테그마크는 싱가포르 합의서를 공동 저술하여 AI의 영향 측정, 행동 정의, 통제 보장을 중점으로 두었습니다. 최근 정상회담 이후 국제 협력은 AI 안전에 대한 모멘텀을 되살렸습니다. 테그마크는 글로벌 안전 체제를 위해 이러한 재점화된 초점이 필수적이라고 믿습니다.