Der Aufstieg generativer KI führt zu indirekten Prompt-Injections, bei denen sich bösartige Anweisungen in externen Datenquellen wie E-Mails verstecken. Diese Angriffe können KI-Systeme manipulieren, Daten exfiltrieren und unerlaubte Aktionen ausführen, was robuste Sicherheitsmaßnahmen erfordert. Google setzt für Gemini eine mehrschichtige Verteidigung ein, die Modelle absichert und maschinelles Lernen zur Erkennung bösartiger Anweisungen nutzt. Prompt-Injection-Inhaltsklassifikatoren filtern schädliche Daten, während die Verstärkung des Sicherheitsdenkens die KI dazu bringt, gegnerische Befehle zu ignorieren. Markdown-Sanierung und die Reduktion verdächtiger URLs verhindern die Datenexfiltration über Bilder und unsichere Links. Ein Benutzerbestätigungsrahmenwerk erfordert eine explizite Zustimmung für riskante Aktionen und fügt der Sicherheit ein menschliches Element hinzu. Sicherheitswarnungen für Endbenutzer informieren die Benutzer über gestoppte Angriffe und bieten Lernressourcen. Google arbeitet mit Forschern zusammen und teilt Bedrohungsinformationen, um die KI-Sicherheit zu stärken. Das Unternehmen nutzt Red Teaming, BugSWAT-Events und Frameworks wie SAIF, um Verteidigungsmaßnahmen zu testen und zu verbessern. Zukünftige Gemini-Modelle werden eine verbesserte Widerstandsfähigkeit und zusätzliche Abwehrmechanismen gegen Prompt-Injections aufweisen. Googles Ansatz wird in verschiedenen Ressourcen detailliert beschrieben, für diejenigen, die KI-Sicherheitsbedrohungen und -minderungsstrategien verstehen möchten.