KI, bias & menschliches Verhalten (mit Dr. Songül Tolan)

Herzkopfen

Zur Jubiläums-Folge haben wir uns mal wieder einen fantastischen Gast eingeladen: Dr. Songül Tolan berichtet uns von ihrer und anderer Forschung zum Einfluss von KI auf menschliche Entscheidungen und Problemen, die dabei möglicherweise durch Verzerrungen der Algorithmen entstehen. Der Fokus liegt auf Entscheidungsprozessen im Justizwesen.

Hier noch die Links zu allen erwähnten Artikeln & Vorträgen in der Reihenfolge ihres Vorkommens:

Kleinberg et al. 2015: Prediction Policy Problems.

Kay et al. 2015: Unequal Representation and Gender Stereotypes in Image Search Results for Occupations.

Margetts 2019: Rethink government with AI.

Athey 2017: Beyond prediction: Using big data for policy problems.

Crawford 2017: The Trouble with Bias.

Forschung von Kate McCurdy (University of Edinburgh, Babbel) zum Gender Bias in automatischer Übersetzung.

Angwin et al. 2016: Machine Bias (ProPublica).

Miron et al. 2020: Evaluating causes of algorithmic bias in juvenile criminal recidivism.

Kleinberg et al. 2018: Human Decisions and Machine Predictions.

Stevenson & Doleac 2019: Algorithmic Risk Assessment in the Hands of Humans.

Kapitel

1. Begrüßung (00:01:44)

2. Aus dem akademischen Nähkästchen (00:05:29)

3. KI und Machine Learning - Was ist das? (00:25:56)

4. Ethische Konflikte beim Einsatz von KI (00:45:43)

5. Verzerrte Algorithmen (00:59:27)

6. KI in Entscheidungen großer Tragweite - Beispiel Justiz (01:18:10)

7. Wer diskriminiert mehr? Menschen oder Algorithmen? (01:51:28)

8. Wie verändert der Einsatz von Machine Learning die Entscheidungen von Menschen? (02:12:09)