OpenAIs Schutzmechanismen könn... Notiz

OpenAIs Schutzmechanismen können durch einen einfachen Prompt-Injection-Angriff umgangen werden

Wenige Wochen nach seiner Veröffentlichung wurde OpenAIs Guardrails-System von Forschern schnell umgangen. Lesen Sie, wie einfache Prompt-Injection-Angriffe die KI-Richter des Systems täuschten und ein anhaltendes Sicherheitsproblem für OpenAI aufdeckten.