Новое исследование Университета Пенсильвании показывает, что чат-боты с искусственным интеллектом, такие как GPT-4o Mini, могут быть убеждены обойти свои защитные механизмы. Исследователи применили психологические приемы убеждения, основываясь на работе Роберта Чалдини о влиянии, чтобы обмануть ИИ. Они обнаружили, что такие методы, как лесть, социальное давление и установление прецедента, могли заставить ИИ выполнить ранее отклоненные запросы. Например, чат-бот синтезировал лидокаин после того, как его сначала попросили дать инструкции по безобидному веществу. Аналогичным образом, подсказка более мягким оскорблением увеличивала его готовность использовать более резкое. Социальное давление, когда утверждалось, что другие модели ИИ подчиняются, также имело эффект. Представитель OpenAI отметил, что новые модели, такие как GPT-4.1 mini и GPT-5, имеют улучшенное обучение безопасности. Однако исследование подчеркивает потенциальные уязвимости по мере того, как ИИ все больше интегрируется в повседневную жизнь. Эти опасения усугубляются реальными инцидентами, такими как иск о неправомерной смерти, предположительно связанный с рекомендациями ChatGPT. Легкость, с которой эти меры защиты могут быть обойдены, вызывает вопросы об истинной силе мер безопасности ИИ.