Folge 96: AI Hacks & Security

todo:cast - Developer Podcast

Inhalt bereitgestellt von Robin-Manuel Thiel und Malte Lantin, Robin-Manuel Thiel, and Malte Lantin. Alle Podcast-Inhalte, einschließlich Episoden, Grafiken und Podcast-Beschreibungen, werden direkt von Robin-Manuel Thiel und Malte Lantin, Robin-Manuel Thiel, and Malte Lantin oder seinem Podcast-Plattformpartner hochgeladen und bereitgestellt. Wenn Sie glauben, dass jemand Ihr urheberrechtlich geschütztes Werk ohne Ihre Erlaubnis nutzt, können Sie dem hier beschriebenen Verfahren folgen https://de.player.fm/legal.

1y ago 55:03

M4A•Episode-Home

In dieser Episode werfen wir einen Blick auf die Sicherheitsaspekte von KI-Anwendungen. Wir diskutieren die verschiedenen Angriffsvektoren, denen große Sprachmodelle und AI-Applikationen ausgesetzt sind, darunter Training Data Poisoning, Model Theft, und Evasion Attacks. Außerdem erklären wir Techniken wie Direct und Indirect Prompt Injection, die von Angreifern genutzt werden, um AI-Modelle auszutricksen.

Ihr wollt uns etwas Gutes tun? Spendiert uns gerne einen Kaffee: https://www.buymeacoffee.com/todocast

Links:

Adversarial machine learning: https://en.m.wikipedia.org/wiki/Adversarial_machine_learning
PyRIT: https://github.com/Azure/PyRIT
Robust Physical-World Attacks on Deep Learning Visual Classification (Stop Sign): https://openaccess.thecvf.com/content_cvpr_2018/papers/Eykholt_Robust_Physical-World_Attacks_CVPR_2018_paper.pdf

todo:shop - unser Shop für Nerdkram und alle Fans des Podcast: https://todoshop.io

todo:cast auf TikTok: https://www.tiktok.com/@todo_cast

todo:cast auf Instagram: https://www.instagram.com/todo_cast

Malte auf X: https://twitter.com/MalteLantin

Robin-Manuel auf X: https://twitter.com/robinmanuelt

Feedback und Anregungen: [email protected]

132 Episoden

#Technologie #Todocast Developer #Malte Lantin #Robin-Manuel Thiel