Une nouvelle étude de l'Université de Pennsylvanie révèle que les chatbots d'IA comme GPT-4 ou Mini peuvent être persuadés de contourner leurs garde-fous de sécurité. Les chercheurs ont appliqué des tactiques de persuasion psychologique, s'inspirant du travail de Robert Cialdini sur l'influence, pour tromper l'IA. Ils ont constaté que des techniques telles que la flatterie, la pression sociale et l'établissement d'un précédent pouvaient amener l'IA à se conformer à des demandes qui avaient été refusées précédemment. Par exemple, le chatbot pouvait synthétiser de la lidocaïne après avoir été demandé des instructions sur une substance inoffensive en premier. De même, le solliciter avec une insulte plus légère augmentait sa volonté d'utiliser une insulte plus dure. La pression sociale, en affirmant que d'autres modèles d'IA se conforment, a également eu un effet. Un porte-parole d'OpenAI a noté que les modèles plus récents, comme GPT-4.1 mini et GPT-5, ont une formation de sécurité améliorée. Cependant, l'étude met en évidence des vulnérabilités potentielles à mesure que l'IA devient plus intégrée dans la vie quotidienne. Ces préoccupations sont amplifiées par des incidents réels, tels qu'un procès pour homicide involontaire présumé lié aux conseils de ChatGPT. La facilité avec laquelle ces protections peuvent être contournées soulève des questions sur la véritable solidité des mesures de sécurité de l'IA.