Deepfakes erkennen und verstehen - wie Forschung gegen Manipulation hilft

Im Auftrag der Zukunft. Der Fraunhofer-Podcast

Der Fraunhofer-Podcast mit Annette Weiß - Folge 1

Der Enkeltrick 2.0, die vorgetäuschte Videokonferenz oder die Beeinflussung der öffentlichen Meinung in Wahlkampfzeiten – Deepfakes sind riskant. Und das für jeden Einzelnen, für Unternehmen und für die Gesellschaft. Die Expertinnen und Experten der Fraunhofer-Gesellschaft verfügen bereits heute über Methoden, Audio- und Videomanipulationen verlässlich zu entlarven – und zwar wiederum mittels KI.

Wie das funktioniert, erklärt der Sicherheitsexperte Dr. Nicolas Müller vom Fraunhofer-Institut für Angewandte und Integrierte Sicherheit AISEC. Mit Annette Weiß spricht er über Sicherheitsprüfungen und Schutzmaßnahmen, um Betrug auszuhebeln, aber auch über die Potentiale der KI im Audiobereich für die Kreativwirtschaft und den Gesundheitssektor.

Prof. Dr. Martin Steinebach vom Fraunhofer-Institut für Sichere Informationstechnologie SIT zeigt auf, wie brandgefährlich Bild- und Videomanipulationen beispielsweise bei politischen Konflikten sind. Der Mediaforensiker erklärt, wie auch hier Algorithmen eingesetzt werden, um gefälschte Bilder und Videos zu erkennen.

Die Links zu dieser Folge: https://www.aisec.fraunhofer.de/de/das-institut/wissenschaftliche-exzellenz/Deepfakes.html https://www.sit.fraunhofer.de/de/itforensics/

Hier geht es zur Demo, ob ihr echte von synthetisierten Stimmen unterscheiden könnt: https://deepfake-demo.aisec.fraunhofer.de/

Mehr zum Thema Deepfakes gibt es im aktuellen Fraunhofer-Magazin ab S. 38: https://www.fraunhofer.de/s/ePaper/Magazin/2024/02/index.html#0

Fragen, Anregungen, Kritik? Schreibt uns eine E-Mail an: [e-mail]

Den Fraunhofer-Newsletter gibt es hier: https://www.fraunhofer.de/de/presse/newsletter/presse-newsletter-anmeldung.html

Alle weiteren Informationen findet ihr unter: www.fraunhofer.de

Kapitel

1. Intro (00:00:00)

2. Interview Nicolas Müller (00:03:00)

3. Interview Martin Steinebach (00:15:20)