Papst Leo warnt vor KI, während MIT-Forscher 90% Wahrscheinlichkeit einer 'existenziellen Bedrohung' findet

Papst Leo XIV. hob in seiner ersten Ansprache künstliche Intelligenz als ein entscheidendes Thema für die Menschheit hervor und wiederholte damit Bedenken hinsichtlich der menschlichen Würde, der Gerechtigkeit und der Arbeit. Er verband dies mit der Soziallehre der Kirche und zog Parallelen zur Enzyklika Rerum Novarum von Leo XIII. Die Bedenken von Leo XIV. spiegeln die Warnungen des verstorbenen Papstes Franziskus vor der unregulierten Entwicklung von KI wider. Franziskus betonte die Notwendigkeit eines internationalen Vertrags, um eine menschenzentrierte KI-Entwicklung sicherzustellen. Der MIT-Physiker Max Tegmark vergleicht die Entwicklung von Superintelligenz mit dem Beginn des Atomzeitalters und hebt die potenzielle existenzielle Bedrohung hervor. Tegmark schlägt vor, eine "Compton-Konstante" zu berechnen, um die Wahrscheinlichkeit eines Kontrollverlusts über KI-Systeme zu bewerten. Seine Forschung schätzt die Wahrscheinlichkeit, dass eine hochentwickelte KI eine existenzielle Bedrohung darstellt, auf 90 %. Er plädiert für strenge Risikobewertungen durch KI-Unternehmen, ähnlich wie vor den ersten Atombombentests. Tegmark war Mitautor des Singapore Consensus, der sich auf die Messung der Auswirkungen von KI, die Definition des Verhaltens und die Gewährleistung der Kontrolle konzentriert. Trotz Rückschlägen gewinnt die internationale Zusammenarbeit zur KI-Sicherheit nach einem kürzlichen Gipfeltreffen Berichten zufolge wieder an Dynamik. Tegmark hält diesen erneuten Fokus für entscheidend für globale Sicherheitsregelungen.