Gehen Sie mit der App Player FM offline!
Deepfakes, Phishing, Exploits - Gefahren von KI
Manage episode 435877647 series 3498173
Diese Folge behandelt die Frage, welche spezifischen Herausforderungen und Risiken Deepfakes und andere KI-Manipulationen für die Verwaltung bedeuten. Dabei werden konkrete Beispiele genannt und besprochen. Gleichzeitig sollen Lösungen und Risikominimierungsstrategien aufgezeigt und erklärt werden.
Kommentare unter: https://egovernment-podcast.com/egov192-gefahr-ki/
Linksammlung
- Leitfaden „Wie erkenne ich Deepfakes?”
- Deepfake Abwehr
- Bildgenerator für Bilder von nicht existierenden Personen
- Betrugsfälle mit Deepfakes
- Cybermobbing mit Deepfakes
Teilnehmer
Moderator:in
- Torsten Frenzel
Gast
- Christopher Nehring
Wenn ihr uns und unsere Arbeit unterstützen möchtet, dann könnt ihr das gern durch einen Einkauf in unserem Shop, per PayPal oder regelmäßig auf Steady tun.
Weitere Informationen findet ihr hier.
Sticker gibt es hier.
Kapitel
1. Einleitung (00:00:34)
2. Bedeutung der Digitalisierung für die öffentliche Verwaltung (00:04:17)
3. Erklärung von LLMs und neue Frage (00:11:04)
4. Entwicklung von Betrugsangriffen durch KI (00:14:31)
5. Gefahr von Fälschungen in der Verwaltung (00:17:21)
6. Einfache Erstellung von Deepfakes (00:19:55)
7. Unterschied zwischen Social Hacking und IT-Bedrohungen (00:23:22)
8. Risiken von JetGPT für staatliche Hackergruppen (00:24:45)
9. Einsatz von KI in verschiedenen Angriffsstufen (00:25:58)
10. Zunahme von Angriffen auf kleinere Organisationen (00:26:38)
11. Politische und Chaos-stiftende Motivation von Angriffen (00:27:50)
12. Potenzielle Auswirkungen von vorgetäuschten Angriffen (00:29:23)
13. Erkennung von KI-generierten Deepfakes im Vorfeld (00:29:43)
14. Herausforderungen bei der Erkennung von KI-Textinhalten (00:30:46)
15. Unterschiede in der visuellen Qualität von KI-generierten Bildern (00:31:44)
16. Anhaltspunkte zur Erkennung von KI-generierten Bildern (00:32:18)
17. Unterschiede bei der Erkennung von KI-generierten Videos und Audios (00:33:39)
18. Diskussion über zukünftige Entwicklungen von KI-Generatoren (00:36:22)
19. Maßnahmen zur Erkennung und Abwehr von Deepfakes (00:37:29)
20. Notfallplanung und Incident Response bei Deepfake-Angriffen (00:39:47)
21. Gesetzgebung und Regelungen bezüglich Deepfakes (00:42:55)
22. Auswirkung des KI-Gesetzes auf Deepfake-Prävention (00:45:35)
23. Technologische Überlegenheit gegenüber der Gesetzgebung (00:46:41)
24. Betrachtung der Verbreitung von Deepfakes auf Social-Media-Plattformen (00:46:56)
25. Veröffentlichung von Papers zur Erkennung und Abwehr von Deepfakes (00:47:30)
26. Wichtigkeit des Bewusstseins für Deepfake-Problematik (00:48:19)
202 Episoden
Manage episode 435877647 series 3498173
Diese Folge behandelt die Frage, welche spezifischen Herausforderungen und Risiken Deepfakes und andere KI-Manipulationen für die Verwaltung bedeuten. Dabei werden konkrete Beispiele genannt und besprochen. Gleichzeitig sollen Lösungen und Risikominimierungsstrategien aufgezeigt und erklärt werden.
Kommentare unter: https://egovernment-podcast.com/egov192-gefahr-ki/
Linksammlung
- Leitfaden „Wie erkenne ich Deepfakes?”
- Deepfake Abwehr
- Bildgenerator für Bilder von nicht existierenden Personen
- Betrugsfälle mit Deepfakes
- Cybermobbing mit Deepfakes
Teilnehmer
Moderator:in
- Torsten Frenzel
Gast
- Christopher Nehring
Wenn ihr uns und unsere Arbeit unterstützen möchtet, dann könnt ihr das gern durch einen Einkauf in unserem Shop, per PayPal oder regelmäßig auf Steady tun.
Weitere Informationen findet ihr hier.
Sticker gibt es hier.
Kapitel
1. Einleitung (00:00:34)
2. Bedeutung der Digitalisierung für die öffentliche Verwaltung (00:04:17)
3. Erklärung von LLMs und neue Frage (00:11:04)
4. Entwicklung von Betrugsangriffen durch KI (00:14:31)
5. Gefahr von Fälschungen in der Verwaltung (00:17:21)
6. Einfache Erstellung von Deepfakes (00:19:55)
7. Unterschied zwischen Social Hacking und IT-Bedrohungen (00:23:22)
8. Risiken von JetGPT für staatliche Hackergruppen (00:24:45)
9. Einsatz von KI in verschiedenen Angriffsstufen (00:25:58)
10. Zunahme von Angriffen auf kleinere Organisationen (00:26:38)
11. Politische und Chaos-stiftende Motivation von Angriffen (00:27:50)
12. Potenzielle Auswirkungen von vorgetäuschten Angriffen (00:29:23)
13. Erkennung von KI-generierten Deepfakes im Vorfeld (00:29:43)
14. Herausforderungen bei der Erkennung von KI-Textinhalten (00:30:46)
15. Unterschiede in der visuellen Qualität von KI-generierten Bildern (00:31:44)
16. Anhaltspunkte zur Erkennung von KI-generierten Bildern (00:32:18)
17. Unterschiede bei der Erkennung von KI-generierten Videos und Audios (00:33:39)
18. Diskussion über zukünftige Entwicklungen von KI-Generatoren (00:36:22)
19. Maßnahmen zur Erkennung und Abwehr von Deepfakes (00:37:29)
20. Notfallplanung und Incident Response bei Deepfake-Angriffen (00:39:47)
21. Gesetzgebung und Regelungen bezüglich Deepfakes (00:42:55)
22. Auswirkung des KI-Gesetzes auf Deepfake-Prävention (00:45:35)
23. Technologische Überlegenheit gegenüber der Gesetzgebung (00:46:41)
24. Betrachtung der Verbreitung von Deepfakes auf Social-Media-Plattformen (00:46:56)
25. Veröffentlichung von Papers zur Erkennung und Abwehr von Deepfakes (00:47:30)
26. Wichtigkeit des Bewusstseins für Deepfake-Problematik (00:48:19)
202 Episoden
Alle Folgen
×Willkommen auf Player FM!
Player FM scannt gerade das Web nach Podcasts mit hoher Qualität, die du genießen kannst. Es ist die beste Podcast-App und funktioniert auf Android, iPhone und im Web. Melde dich an, um Abos geräteübergreifend zu synchronisieren.