Generative KI und Security: Wird Terminator jetzt zur Realität? (Gesponsert)

heise meets … Der Entscheider-Talk

heise meets … Kevin Schwarz, CTO EMEA, Zscaler

Es gab diesen Fall in Hongkong: Der Vorstand eines Unternehmens weist in einem Videomeeting einen Mitarbeiter an, 25 Millionen Dollar irgendwohin zu überweisen. Das Geld ist weg. Denn das Meeting war ein Fake: Video-Phishing. Ein extrem plakatives Beispiel, aber Tatsache ist: Beim Katze-und-Maus-Spiel zwischen Black-Hat-Hackern und Internetbetrügern auf der einen und Security-Experten auf der anderen Seite gehört künstliche Intelligenz inzwischen zum Werkzeugkasten.

Sicherheitsfirmen wie Zscaler setzen sich aktuell intensiv mit „generativer KI“ auseinander, jener Software, die verbale und visuelle Realität nahezu nach Belieben erschafft. Sie lässt sich nutzen, um Schwachstellen in IT-Systemen aufzuspüren, von Angreifern wie Verteidigern gleichermaßen. Kevin Schwarz nennt als Beispiel für die Entwicklung von Abwehrstrategien die Lernfähigkeit der KI bei der Mustererkennung von Angriffen.

Hier wie beim Thema Datenschutz (bei KI fast automatisch im Spiel) relativiert Schwarz aber auch Phantasien, es ginge jetzt auf virtueller Ebene zu wie im „Terminator“. Schutzmechanismen folgen immer noch einer gewissen Logik, nur eben jetzt auf einem Level, das die KI erweitert hat. Insofern sieht er eine Parallele zur Sicherheitsdiskussion beim Aufkommen der Cloudtechnologie.

Und was ist im Security-Bereich mit den Analysten – werden die nun arbeitslos? Das sieht Schwarz nicht kommen. Eher werde die KI hier die Funktion eines Copiloten bekommen, der seinem menschlichen Kollegen wesentliche Entscheidungsgrundlagen liefert und so die Arbeit erleichtert. So können auch kleinere Unternehmen zu „Sicherheit als Commodity“ kommen.

Dieser Podcast ist vom Arbeitgeber des Interviewpartners gesponsert.