AI '신' 요슈아 벵기오가 영국 프로젝트에 참여하여 AI 재앙을 예방합니다.

유명한 AI 연구자 요슈아 벵gio는 영국 정부가 후원하는 'Safeguarded AI' 프로젝트에 합류하여 AI 시스템에 안전 메커니즘을 구현하는 데 참여하게 됩니다. 이 프로젝트의 목표는 임계 영역에서 배포되는 AI 시스템의 안전을 확인할 수 있는 AI 시스템을 구축하는 것입니다. Safeguarded AI는 AI 시스템의 실제 세계 효과에 대한 정량적 보증, 예를 들어 위험 점수,을 제공하는 것을 목표로 합니다. 프로젝트는 과학 세계 모델과 수학적 증명을 결합하여 AI 모델의 안전을 확인할 것입니다. 벵gio는 향후 AI 시스템이 심각한 해를 끼치지 않도록 하려는 것입니다. 현재의 기술은 AI 시스템의 안전한 작동을 보장하는 데 충분하지 않습니다. Safeguarded AI 프로젝트는 다른 AI 에이전트의 안전 위험을 이해하고 줄이는 '게이트키퍼' AI를 생성할 것입니다. ARIA는 고위험 부문에서 조직들에게 AI 안전 메커니즘으로부터 이익을 얻을 수 있는 애플리케이션을 개발하는 자금을 제공합니다. ARIA는 또한 Safeguarded AI의 안전 메커니즘 개발을 감독하는 비영리 조직을 설립하고 있습니다. Safeguarded AI 프로젝트는 영국이 AI 안전 분야에서 선두 주자가 되려는 노력의 일부입니다. 벵gio는 이 프로젝트가 고급 AI 시스템의 위험에 대한 국제 협력을 촉진할 것으로 기대합니다.