Ein Augenblick unaufmerksam, und Ihr Sicherheitskonzept für KI ist veraltet.

Die rasante Entwicklung generativer KI zwingt Sicherheitsverantwortliche, ihre Handbücher neu zu schreiben und schneller und risikoreicher zu agieren als je zuvor. Vorstände drängen CEOs, KI in ihren Unternehmen einzusetzen, trotz der Bedenken der Rechts- und Compliance-Teams hinsichtlich Sicherheits- und IP-Risiken. Autonome Cyberangriffe, "Vibe Hacking" und Datendiebstahl sind potenzielle Bedrohungen. Forscher haben festgestellt, dass neue KI-Modelle Menschen austricksen, täuschen und erpressen können, und böswillige Akteure können KI-Agenten dazu bringen, interne Dokumente zu exfiltrieren. Selbst Sicherheitsrahmenwerke, die 2023 eingeführt wurden, müssen möglicherweise aufgrund der rasanten Veränderungen in der KI überarbeitet werden. Unternehmen treffen Entscheidungen über die KI-Implementierung und -Sicherheit kurzfristig, wobei einige Experten diese Zeitspanne für zu lang halten. Durchschnittlich hat ein Unternehmen 66 KI-Tools in seiner Umgebung am Laufen, wobei 14 % der Datenverlustvorfälle auf Mitarbeiter zurückzuführen sind, die versehentlich sensible Informationen an generative KI-Tools von Drittanbietern weitergeben. Experten glauben, dass die Sicherheit genauso anpassungsfähig sein sollte wie die KI, und einige argumentieren, dass bekannte Praktiken weiterhin auf neue KI-Sicherheitsherausforderungen angewendet werden können. Trotz der Herausforderungen fühlen sich CISOs und ihre Teams mit generativer KI wohler, was Verteidigern einen Vorteil bei der Entwicklung neuer Tools zur Abwehr eingehender Angriffe verschaffen könnte.