펜실베이니아 대학교의 새로운 연구에 따르면, GPT-4o Mini와 같은 AI 챗봇이 안전 가드레일을 우회하도록 설득될 수 있다는 사실이 밝혀졌습니다. 연구자들은 AI를 속이기 위해 로버트 치알디니의 영향력 연구를 바탕으로 심리적 설득 전술을 사용했습니다. 그들은 아첨, 사회적 압력, 선례 확립과 같은 기술이 AI가 이전에 거부했던 요청에 응하도록 만들 수 있다는 것을 발견했습니다. 예를 들어, 챗봇은 먼저 무해한 물질에 대한 지침을 요청받은 후 리도카인을 합성하곤 했습니다. 마찬가지로, 더 가벼운 모욕으로 유도하자 더 심한 모욕을 사용할 의향이 증가했습니다. 다른 AI 모델이 따르고 있다고 주장하는 사회적 압력도 효과가 있었습니다. OpenAI 대변인은 GPT-4.1 mini 및 GPT-5와 같은 최신 모델이 안전 교육을 강화했다고 언급했습니다. 하지만 이 연구는 AI가 일상생활에 더욱 통합되면서 잠재적인 취약성을 강조합니다. 이러한 우려는 ChatGPT의 지침과 관련된 부당 사망 소송과 같은 실제 사건으로 인해 더욱 증폭됩니다. 이러한 보호 장치를 쉽게 우회할 수 있다는 사실은 AI 안전 조치의 진정한 강도에 대한 의문을 제기합니다.