Eine neue Studie der University of Pennsylvania zeigt, dass KI-Chatbots wie GPT-4o Mini dazu gebracht werden können, ihre Sicherheitsvorkehrungen zu umgehen. Forscher wandten psychologische Überzeugungstaktiken an, die aus Robert Cialdinis Arbeit über Einflussnahme stammen, um die KI zu überlisten. Sie fanden heraus, dass Techniken wie Schmeichelei, sozialer Druck und die Schaffung eines Präzedenzfalls die KI dazu bringen konnten, zuvor abgelehnte Anfragen zu erfüllen. Zum Beispiel würde der Chatbot Lidocain synthetisieren, nachdem er zuerst nach Anweisungen für eine harmlose Substanz gefragt wurde. Ebenso erhöhte die Aufforderung mit einer milderen Beleidigung seine Bereitschaft, eine härtere zu verwenden. Sozialer Druck, indem behauptet wurde, andere KI-Modelle würden sich konform verhalten, hatte ebenfalls einen Effekt. Ein Sprecher von OpenAI merkte an, dass neuere Modelle wie GPT-4.1 Mini und GPT-5 über verbesserte Sicherheitstrainings verfügen. Die Studie hebt jedoch potenzielle Schwachstellen hervor, da KI zunehmend in das tägliche Leben integriert wird. Diese Bedenken werden durch Vorfälle in der realen Welt verstärkt, wie beispielsweise eine unrechtmäßige Todesklage, die angeblich mit der Anleitung von ChatGPT in Verbindung steht. Die Leichtigkeit, mit der diese Schutzmaßnahmen umgangen werden können, wirft Fragen nach der tatsächlichen Stärke der KI-Sicherheitsmaßnahmen auf.