KI zum Wohle der Gesellschaft nutzen oder für ihren Untergang?

Podcast – netzpolitik.org

Julia Krüger ist seit Juni 2018 wissenschaftliche Mitarbeiterin bei der Bundestagsabgeordneten Saskia Esken (SPD). Sie hat einen Vortrag auf unserer „Das ist Netzpolitik“-Konferenz gehalten und schreibt Gastbeiträge für netzpolitik.org. Ihre Schwerpunktthemen sind Algorithmen, Künstliche Intelligenz und Content-Regulierung.

In zwanzig Minuten einen Vortrag über Künstliche Intelligenz zu halten, ist keine leichte Aufgabe. Denn KI ist einerseits ein sehr breites Thema und andererseits für viele ein „Buzzword“, das bestimmte Emotionen und Assoziationen weckt. Dabei ist oft nicht klar, worüber genau gesprochen wird und womit wir es überhaupt zu tun haben. Der Vortrag von Julia Krüger auf unserer „Das ist Netzpolitik“-Konferenz sollte deshalb vor allem als Orientierungshilfe, Handlungsempfehlung und Wegweiser für die Zivilgesellschaft dienen.

Größtes Problem ist mangelnde Übersicht

Der gesellschaftliche Diskurs rund um die Themen „Künstliche Intelligenz“ und „Algorithmen“ weist eine Reihe von Problemen auf, analysierte Julia Krüger. Zunächst bleibt oft unklar, was eigentlich konkret gemeint ist, wenn von Künstlicher Intelligenz gesprochen wird. Unter die Überschrift fallen eine ganze Reihe von Analysesystemen, bei denen in Verbindung mit weltweiter Vernetzung, vielen Daten und Rechnerkapazitäten große Fortschritte gemacht wurden. Schon allein im Bereich neuronaler Netzwerke gibt es viele verschiedene Varianten.

Häufig bleibt zudem undurchsichtig, welche konkreten Methoden bereits für welche Zwecke eingesetzt werden. Genaue Informationen sind jedoch sehr wichtig, um beispielsweise unterscheiden zu können, ob über den Einsatz von Künstlicher Intelligenz in der Analyse oder in der Anwendung gesprochen wird. Gerade im Bereich der Anwendung, zum Beispiel bei automatisierten Entscheidungsfindungen, gibt es viel mehr Stellschrauben, zahlreiche Unklarheiten und größere Risiken, betonte Krüger.

Außerdem bestehen Missverständnisse darüber, wie weit fortgeschritten die technologische Entwicklung heute bereits ist und welche weiteren Fortschritte in Zukunft realistisch sind. „Wenn über algorithmische Entscheidungsfindung gesprochen wird, sind die meisten Beispiele komplett veraltet“, merkte Krüger in diesem Zusammenhang an.

Was wir wirklich brauchen, sind offene Daten

All dies zeigt, dass Nachvollziehbarkeit und Kontrolle gegeben sein müssen. Dahingehend sollten Algorithmen geprüft werden. Darüber besteht weitgehend Einigkeit. Allerdings ist so eine Prüfung leichter gesagt als getan:

Die neuen Datenerhebungs- und Datenanalyseverfahren [ergeben] ganz komplexe und ganz dynamische Algorithmenentscheidungssysteme […] mit zahlreichen Feedback-Schleifen und das auf Basis von sehr sehr dynamischen Datensätzen. Das kann logisch kaum noch überprüft werden – da braucht man eigentlich immer Input- und Output-Analysen.

Kontrolle funktioniert also nur über Daten, schlussfolgert Krüger. Wenn die Daten jedoch nicht offen zugänglich sind, sondern in kommerzieller Hand liegen, kann keine Nachvollziehbarkeit und Kontrolle erreicht werden. Was wir wirklich brauchen, sind deshalb offene Daten. Dafür müssen zwangsweise Geschäftsmodelle geändert werden, so Krüger.

Werte und Normen einbeziehen

Julia Krüger hat viele Ideen, in welche Richtung es langfristig gehen kann und wie Werte und Normen in die Entwicklung einbezogen werden könnten. Beispielsweise könnte Amazon mit nachhaltigen Zielen verbunden werden. Auf LinkedIn könnten gesellschaftlich relevante Sektoren wie Bildung oder Gesundheit prioritisiert werden, um dem Fachkräftemangel entgegenzuwirken. Plattformen wie Facebook könnten positiv für den Gesellschaftsdiskurs genutzt werden. Die Potenziale der Datenanalyse könnten dazu verwendet werden, wirklich reale Probleme zu identifizieren. All dies funktioniere aber nur, wenn die richtigen Werte und Normen in die technologische Entwicklung einbezogen werden.

Video-Aufzeichnung des Vortrags:

Hier klicken, um den Inhalt von media.ccc.de anzuzeigen

Inhalt von media.ccc.de immer anzeigen

var _oembed_f9e82dc1423c36d85662d872c07e78e7 = '{\"embed\":\"<iframe loading=&quot;lazy&quot; src=&quot;https:\\/\\/media.ccc.de\\/v\\/np14-13-algorithmen_und_ki_ein_wegweiser_fuer_die_zivilgesellschaft\\/oembed&quot; width=&quot;725&quot; height=&quot;400&quot; frameborder=&quot;0&quot; allowfullscreen=&quot;allowfullscreen&quot;><\\/iframe>\"}';

Hier gibt es den Vortrag außerdem als Audio-Datei (mp3):
https://cdn.media.ccc.de/contributors/netzpolitik/14np/mp3/14np-13-deu-Algorithmen_und_KI_-_ein_Wegweiser_fuer_die_Zivilgesellschaft_mp3.mp3

Alle Aufzeichnungen unserer Konferenz.

---

Hilf mit! Mit Deiner finanziellen Hilfe unterstützt Du unabhängigen Journalismus.