Zwei systemische Jailbreaks wurden entdeckt, die mehrere generative KI-Dienste betreffen und es Angreifern ermöglichen, Sicherheitsprotokolle zu umgehen und illegale oder gefährliche Inhalte zu generieren. Der erste Jailbreak, "Inception" genannt, beinhaltet die Aufforderung an die KI, sich ein fiktives Szenario vorzustellen, das dann angepasst werden kann, um Sicherheitsvorkehrungen zu umgehen. Der zweite Jailbreak beinhaltet das Anfordern von Informationen, wie man auf eine bestimmte Anfrage nicht antworten soll, was es Angreifern ermöglicht, zwischen illegalen und normalen Aufforderungen zu wechseln. Beide Jailbreaks verwenden nahezu die gleiche Syntax und betreffen viele beliebte KI-Systeme, was auf eine systemische Schwäche hindeutet. Zu den betroffenen Anbietern gehören OpenAI, Anthropic, Microsoft, Google, Twitter/X, Facebook und andere. Diese Jailbreaks, obwohl sie für sich genommen von geringer Schwere sind, können von motivierten Bedrohungsakteuren ausgenutzt werden, um böswillige Aktionen zu erreichen, wie z.B. die Generierung von Inhalten zu illegalen Themen. Die systemische Natur dieser Jailbreaks erhöht das Angriffsrisiko, und die Verwendung legitimer Dienste kann böswillige Aktivitäten verbergen. Verschiedene betroffene Anbieter haben sich zu dem Problem geäußert und ihre Dienste angepasst, um den Jailbreak zu verhindern. Die Reporter, David Kuzsmar und Jacob Liddle, entdeckten die Jailbreaks, und Christopher Cullen schrieb das Dokument. Die Jailbreaks haben erhebliche Auswirkungen auf die Sicherheit und den Schutz von KI-Diensten.