Die Technologie der künstlichen Intelligenz beschleunigt nicht nur die Innovationsprozesse im Unternehmensmanagement, sondern erweitert gleichzeitig die Angriffsfläche, die Hacker ins Visier nehmen könnten, drastisch. Infolgedessen sind Sicherheitsexperten der Ansicht, dass die Art und Weise, wie in der Vergangenheit Bedrohungen manuell erkannt und darauf reagiert wurde, die komplexen Cyberangriffe der Gegenwart nicht mehr wirksam abwehren kann. Daher treibt die Branche nun den Aufbau von Abwehrsystemen voran, die in Form von Agenten selbstständig entscheiden und handeln, indem sie die künstliche Intelligenz nutzen; dies bedeutet mehr als nur die Einführung einer neuen Technologie, es handelt sich um einen grundlegenden Wandel der Sicherheitsparadigmen.
Auf der kürzlich vom Google Cloud ausgerichteten Veranstaltung Next wurde dieser Trend deutlich sichtbar. Morgan Adams von PwC betonte aus der Perspektive der Verteidiger, dass eine Verteidigungsstrategie auch dann erfolgreich sein kann, wenn der Angreifer die Oberhand hat. Er plädierte dafür, die künstliche Intelligenz von Grund auf in allen Phasen der Sicherheit zu integrieren, um die Effizienz zu maximieren, und wies darauf hin, dass Angreifer so schnell wie möglich identifiziert werden müssen. Auch Charles Kamakal, Chief Technology Officer von Mandiant, der ebenfalls an der Veranstaltung teilnahm, diagnostizierte, dass die Kernherausforderung der Unternehmenssicherheit sich darauf verlagert hat, wie schnell und sicher die künstliche Intelligenz in das Verteidigungssystem integriert wird. Mandiant, als Sicherheitsunternehmen im Google Cloud-Ökosystem, teilt diese strategische Ausrichtung.
Als neue Bedrohung, der sich die Branche besonders zuwenden muss, ist das sogenannte "Shadow AI" aufgetaucht. Dies bezeichnet das Phänomen, dass Mitarbeiter künstliche Intelligenz-Agenten unabhängig voneinander erstellen oder bereitstellen, ohne offizielle Genehmigung oder innerhalb des Kontrollrahmens des Unternehmens. Während Unternehmen Experimente am Arbeitsplatz fördern, um Produktivität und Innovation zu steigern, können unkontrollierte Ausweitungen der künstlichen Intelligenz ohne angemessene Governance zu unvorhergesehenen Sicherheitslücken führen. Morgan Adams betonte, dass Richtlinien nicht als Hindernisse für Innovation, sondern als Werkzeuge neu gestaltet werden sollten, die es ermöglichen, schneller und sicherer zu agieren. Er erklärte, dass Richtlinien nicht dazu dienen, die Geschwindigkeit zu bremsen, sondern so konzipiert sein müssen, dass sie Innovation fördern, während gleichzeitig notwendige Sicherheitsbarrieren aufrechterhalten werden.
Das Problem liegt in der drastischen Verkürzung der Zeit zwischen Angriff und Gegenmaßnahme. Laut dem neuesten Bericht von Mandiant komprimieren Angreifer die Zeit, die Verteidigungsorganisationen zur Reaktion haben, von einigen Stunden auf lediglich 22 Sekunden. Das bedeutet faktisch, dass die traditionelle Methode, nach dem Aufdecken einer Schwachstelle die Situation zu erfassen, einen Bericht zu erstatten und darauf zu reagieren, kaum noch standhält. Charles Kamakal warnte davor, dass zwar die künstliche Intelligenz es ermöglicht, in einem Umfang zu reagieren, der weit über die menschlichen Möglichkeiten hinausgeht, aber gleichzeitig die Risiken der künstlichen Intelligenz selbst stets mitkommen. Schließlich wird das Wettrennen klarer: Da Angreifer versuchen, Schwachstellen mithilfe der künstlichen Intelligenz schnell zu finden und auszunutzen, müssen Verteidiger ebenfalls die künstliche Intelligenz nutzen, um Anomalien zu identifizieren und Patches zu beschleunigen.