Yoshua Bengio, il 'padrino' dell'IA, si è unito a un progetto del Regno Unito per prevenire catastrofi legate all'IA

Yoshua Bengio, un ricercatore di AI di fama mondiale, si unirà a un progetto finanziato dal governo del Regno Unito chiamato Safeguarded AI, con l'obiettivo di integrare meccanismi di sicurezza nei sistemi di IA. Il progetto mira a creare un sistema di IA in grado di verificare la sicurezza di altri sistemi di IA impiegati in aree critiche. L'obiettivo di Safeguarded AI è quello di fornire garanzie quantitative, come punteggi di rischio, sugli effetti reali del mondo dei sistemi di IA. Il progetto combinerà modelli scientifici del mondo e prove matematiche per verificare la sicurezza dei modelli di IA. Bengio vuole assicurarsi che i futuri sistemi di IA non causino gravi danni, poiché le tecniche attuali sono insufficienti per garantire il loro comportamento sicuro. Il progetto Safeguarded AI creerà un "portiere" IA per comprendere e ridurre i rischi di sicurezza di altri agenti IA. ARIA offre finanziamenti alle organizzazioni che operano in settori ad alto rischio per sviluppare applicazioni che potrebbero beneficiare di meccanismi di sicurezza IA. ARIA sta anche cercando di istituire un'organizzazione non-profit per supervisionare lo sviluppo dei meccanismi di sicurezza di Safeguarded AI. Il progetto Safeguarded AI fa parte degli sforzi del Regno Unito per posizionarsi come pioniere nella sicurezza dell'IA. Bengio spera che il progetto promuova la collaborazione internazionale per affrontare i rischi dei sistemi di IA avanzati.