OpenAI의 경계는 단순한 프롬프트 주입 공격으로 우... 노트

OpenAI의 경계는 단순한 프롬프트 주입 공격으로 우회될 수 있다

발표 직후 몇 주 만에, OpenAI의 Guardrails 시스템은 연구자들에 의해 빠르게 우회되었습니다. 프롬프트 주입 공격이 시스템의 AI 심판을 얼마나 쉽게 속였는지, 그리고 OpenAI에 대한 지속적인 보안 우려를 노출했는지 읽어보세요.