#32 AutoML

Techtiefen

Marius Lindauer ist Professor an der Universität Hannover und einer der Köpfe hinter AutoML.org, einer der renommiertesten Forschungsgruppen auf dem Gebiet, die unter anderem Auto-sklearn, Auto-PyTorch und SMAC entwickelt hat. Er erläutert uns, wie AutoML unterfahrenen Nutzern das Training von state-of-the-art Machine Learning Modellen ermöglicht und Data Scientist als mächtiges Werkzeug dienen kann.

Zunächst besprechen wir am Beispiel des Hyperparameter Tunings welche Verfahren existieren, um automatisch die richtigen Modellkonfiguration aus dem hochdimensionalen Parameterraum auszuwählen. Die statischen Grid- und Random Search Verfahren sind zwar gut parallelisierbar, jedoch sind evolutionäre und bayesian Verfahren durch die Nutzung eines intelligenten Meta-Learners wesentlich effizienter.

AutoML bedeutet jedoch nicht nur die Optimierung von Hyperparametern, sondern die integrierte Optimierung der gesamten Machine-Learning Pipeline, vom Feature-Preprocessing, über das Modelltraining bis hin zum effizienten Tuning und Stacking. Wir besprechen, wie AutoML von den ersten Ansätzen im Bereich Neuroevolution sich weiterentwickelt hat und mit Google AutoML seinen „ImageNet Moment“ erlebt hat. Wir besprechen zudem die aktuell gängigsten Frameworks: Auto-sklearn, Auto-PyTorch, AutoKeras, AutoGluon, TeaPot und AutoWeka.

Links:

• AutoML Buch von AutoML.org
• AutoML in der Cloud Blog Artikel von Nico
• AutoML Benchmark
• KI-Campus Online-Kurs zu AutoML

Kapitel

1. Intro (00:00:32)

2. Zu Gast: Marius Lindauer (00:00:54)

3. Kurz gefragt (00:07:17)

4. AutoML (00:09:02)

5. Hyperparametertuning (00:15:35)

6. Anfänge von AutoML (00:30:52)

7. Erklärbarkeit von Machine Learning (00:39:14)

8. Wie funktioniert AutoML (00:43:12)

9. Wie gut sind AutoML Tools (00:59:09)

10. Welche AutoML Tools gibt es? (01:06:30)

11. AutoML in der Cloud (01:27:06)

12. Forschung (01:31:36)

13. Links (01:48:55)