Le Pape Léon met en garde contre l'IA, alors qu'un chercheur du MIT estime à 90% la probabilité d'une 'menace existentielle'.

Dans son premier discours, le pape Léon XIV a souligné l'intelligence artificielle comme un enjeu crucial pour l'humanité, faisant écho aux préoccupations concernant la dignité humaine, la justice et le travail. Il a établi un lien avec la doctrine sociale de l'Église, traçant des parallèles avec l'encyclique Rerum Novarum de Léon XIII. Les préoccupations de Léon XIV font écho aux avertissements du défunt pape François concernant le développement non réglementé de l'IA. François a insisté sur la nécessité d'un traité international pour garantir un développement de l'IA centré sur l'humain. Max Tegmark, physicien au MIT, compare le développement de la superintelligence à l'aube de l'ère atomique, soulignant le potentiel de menace existentielle. Tegmark propose de calculer une "constante de Compton" pour évaluer la probabilité de perdre le contrôle des systèmes d'IA. Ses recherches estiment à 90 % la probabilité qu'une IA très avancée représente une menace existentielle. Il plaide pour des évaluations rigoureuses des risques par les entreprises d'IA, similaires à celles qui ont précédé les premiers essais de la bombe atomique. Tegmark est co-auteur du consensus de Singapour, qui se concentre sur la mesure de l'impact de l'IA, la définition de son comportement et la garantie de son contrôle. Malgré des revers, la coopération internationale en matière de sécurité de l'IA reprendrait de l'élan après un récent sommet. Tegmark estime que ce regain d'attention est crucial pour les régimes de sécurité mondiale.