KI als Hacker - Verbreiten Chatbots fiese Computerviren?

KI verstehen

Chatbots können Nutzer aushorchen und Cyberkriminellen helfen, bessere Phishing-E-Mails zu schreiben. Zudem können ChatGPT & Co ausgenutzt werden, um Menschen über deren eigene Computer anzugreifen. Bisher gibt es keine funktionierende Abwehrmaßnahme. In Episode 37 sprechen Eva Wolfangel und Ralf Krauter über die Zukunft der Cyberkriminalität.
Kapitelmarken
(02:36) Ist Künstliche Intelligenz die neue Wunderwaffe im Arsenal von Hackern?
(04:20) Eva klickt auf einen Link der MS-Bing-Chat in einen Spion verwandelt
(07:59) Mittels ‚Prompt Injection‘ können Cyberkriminelle Chatbots kapern
(11:34) Ein Hacker entwickelt mit Hilfe von ChatGPT den perfekten Computerwurm
(15:42) IT-Sicherheitsexperte Christoph Endres: „Das ist sehr gefährlich.“
(21:36) Kann man Sprachmodelle immun gegen Missbrauch durch Hacker machen?
(25:55) Vorsicht vor Plugins für ChatGPT: Eva lässt lieber die Finger davon
Weiterführende Links
ZEIT ONLINE: Wie KI-Assistenten Ihren Rechner leerräumen können
The Coming Wave: Künstliche Intelligenz, Macht und das größte Dilemma des 21. Jahrhunderts, Buch von DeepMind-Mitgründer Mustafa Suleyman und Michaek Bhaskar
ZEIT ONLINE: Sicherheitsforscher kapern Bing-Chat
Hacking Google Bard - From Prompt Injection to Data Exfiltration (englisch)
DIE ZEIT: Ein Mann spielt mit der Hölle
Indirect Prompt Injection Threats (Blog Forscher Kau Greshake, englisch)
Mehr zum Thema KI in der Dlf Audiothek
Copy me, I want to travel - Die Geschichte der Malware zwischen Ost und West
Algorithmen im Alltag (5/12) – Der Virenjäger
Risiko am Rechner: Wenn Hacker Behörden und Unternehmen lahmlegen
Unser Podcast „KI verstehen“ ist beim Deutschen Podcast Preis in der Publikumskategorie „Beste Information“ nominiert. Das Team würde sich freuen, wenn ihr hier für uns abstimmt.
KI verstehen – Deutscher Podcast Preis (deutscher-podcastpreis.de)
Wenn Euch diese Episode gefallen hat, abonniert uns und empfehlt uns gerne weiter. Für Kritik, Fragen und Anregungen aller Art schickt uns eine E-Mail an [e-mail] oder eine Sprachnachricht per Signal oder Whatsapp an 0152-59529753.
Noch mehr spannende Podcasts gibt’s in der Dlf Audiothek App. Zu finden in den App-Stores von Apple und Google.
Folgt dem Deutschlandfunk auch auf Instagram oder Facebook.