043 – Deep Fakes: Wer bist du, und – was passiert da eigentlich?

Zukunft Denken – Podcast

Wollte man den Titel dieser Episode etwas gelehrter ausdrücken könnte man vielleicht sagen: Das Fenster der vermittelten Authentizität, das das 20. Jahrhundert geprägt hat, schließt sich gerade. Und es schließt sich in bemerkenswertem Tempo.

Bitte die Referenzen unten ansehen: dort finden sich alle in der Episode genannten Bilder.

Vor Ende des 19. Jahrhunderts gab es keine Mittel technischer Reproduktion der »Wirklichkeit«, also weder Photographie, noch Film noch Tonaufnahmen. Diese analogen Reproduktionstechniken haben einen interessanten »Sweetspot«: sie sind schnell, billig und effektiv genug um die Welt mit Abbildungen von Ereignissen über weite Strecken zu versorgen, aber unflexibel genug, dass Manipulation und Fälschung verhältnismässig aufwändig sind. So haben wir im 20. Jahrhundert natürlich Fälschungen gesehen, aber diese waren im Vergleich zu den authentischen Medien vergleichsweise selten.

Robert Capa, Death of a loylist soldier (Spanischer Bürgerkrieg)

Im Augenblick entstehen technische aber extrem einfach zugängliche technische Mittel (Software, Smartphones), die glaubwürdige Manipulationen oder Fabrikationen beliebiger Medien für Jedermann ermöglichen – auch Deep Fakes genannt.

In dieser Episode bespreche ich den geschichtlichen Hintergrund der technischen Innovationen, wie wesentliche Information vor dem 20. Jahrhundert vermittelt wurde – auch am Beispiel der Schlachtenmalerei – und wo wir uns heute hinbewegen. Ich zeige, wie analoge Medien gefälscht wurden, warum dies aber nur ein vergleichsweise kleines Problem war.

Dann diskutiere ich, was Deep Fakes eigentlich manipulieren und was Authentizität in der vermittelten Abbildung der Welt für uns bedeutet? Wie werden wir (bald) damit umgehen, wenn jeder 14 Jährige auf der ganzen Welt:

• eine Podcast-Episode erstellen kann, in der vermeintlich Joe Rogan mit Donald Trump oder Barack Obama spricht;
• ein YouTube Video, wo ein bekannter Journalist die Bundeskanzlerin interviewt;
• einen Film, in dem Tom Cruise mit Marilyn Monroe gemeinsam auf dem Motorrad fährt;
• oder ein unappetitliches Video anfertigt und online stellt oder über Plattformen teilt, dass eine Klassenkameradin in einer pornographischen Situation zeigt?

All diese Medien werden kaum oder gar nicht von echten Aufnahmen unterscheidbar sein und all diese Medien werden, wie gesagt, mit äußerst geringen Sachkenntnissen und ubiquitär verfügbaren Computern hergestellt werden können.

Können wir diese Entwicklung noch verhindern? Die Effekte eingrenzen? Können wir das Vertrauen in vermittelte Realität wieder zurückgewinnen, sollte es einmal durch einen Tsunami an solchen Deep Fakes zerstört worden sein?

Referenzen

Andere Episoden

• Episode 4 und Episode 5: Was will Technologie?
• Episode 30: (Techno-)Optimismus – ein Gespräch mit Tim Pritlove
• Episode 40: Software Nachhaltigkeit, ein Gespräch mit Philipp Reisinger
• Episode 15: Innovation oder Fortschritt?

Fachliche Referenzen

• (an)sichten Blog: The Closing Window auf Mediated Authenticity
• Stalin und Photo-Manipulationen
• Die sowjetische Flagge am Berliner Reichstag 1945
• Robert Capa, der fallende Soldat: Philipp Blom, Der taumelnde Kontinent, dtv (2011)
• Bobby Chesney, Danielle Citron, Deep Fakes: A Looming Challenge for Privacy, Democracy, and National Security (2019)
• Pedro J. Colombo, Der Photograph von Mauthausen, Tahoe books (2021)
• Zu Deep Fakes: keine konkrete Referenz, weil sich hier alles so schnell bewegt. Eine Internet Suche zum Stichwort »Deep Fake« bringt zahlreiche Beispiele (Obama, Trump, Fake Porn, Joe Rogan)
• The Guardian, European MPs targeted by Deep Fake Video Calls Imitating Russian Opposition (2021)