In den letzten Wochen wurde in den Nachrichten viel über den Einsatz von Algorithmen durch die Regierung zur Erkennung von Betrug und Kriminalität berichtet. Herzlichen Glückwunsch! Ich würde sagen, wir haben eine Regierung, die effizienter wird und mit der Zeit geht. Viel beunruhigender wäre allerdings die Nachricht, dass die Regierung immer noch keine prädiktiven Algorithmen einsetzt.

In den Medien wurde dieses Thema jedoch aus einer ganz anderen Perspektive beleuchtet. So hat beispielsweise die niederländische Nachrichtenagentur NOS diesen Artikel veröffentlicht, der auf Englisch den Titel trägt: „Government uses algorithms on a large scale“, „risk of discrimination“. In diesem Artikel heißt es, dass die Verwendung von prädiktiven Algorithmen ein hohes Risiko für Diskriminierung mit sich bringt. Dieser Artikel führte zu empörten Reaktionen der Leser, was deutlich machte, dass die Diskussion über den Einsatz von Algorithmen weitgehend von Emotionen geleitet wird. Dabei wurde übersehen, dass der Titel des Artikels gelinde gesagt voreingenommen, aber auch sachlich falsch ist.

Besser und schneller als Menschen

Die wörtliche Bedeutung des Wortes Diskriminierung ist „eine Unterscheidung treffen“. Und genau das ist es, was ein Algorithmus tut. Er klassifiziert Daten aufgrund ihrer Beziehungen in Merkmale. Und das viel besser und schneller, als es Menschen können. Aber wenn man von der wörtlichen Bedeutung des Wortes Diskriminierung ausgeht, ist die These, dass die Verwendung von prädiktiven Algorithmen ein hohes Risiko der Diskriminierung mit sich bringt, unsinnig. Man müsste sagen: „Algorithmen diskriminieren, dafür sind sie gemacht.“

Dennoch steht Diskriminierung im sozialen Kontext für etwas ganz anderes. Es geht darum, rechtswidrige Unterscheidungen vorzunehmen (aufgrund von Dingen wie Geschlecht, Religion, Überzeugung, sexuelle Orientierung usw.). Und genau das tut ein Algorithmus nicht. Ein Algorithmus produziert mit der gleichen Eingabe immer die gleiche Ausgabe. Er ist amoralisch und kann daher per Definition keine illegale Unterscheidung treffen. Einfach ausgedrückt: Ein Algorithmus leidet nicht unter Schlafentzug einer Nacht oder einer unangenehmen Erfahrung mit dem Nachbarn im Erdgeschoss. Während die Menschen das tun. Dennoch ist die Verwirrung verständlich. Ein Algorithmus erstellt – und lernt auf der Grundlage von Daten. Und da liegt das Problem. Daten sind nicht frei von menschlichen Einflüssen und können in vielerlei Hinsicht „voreingenommen“ sein. Es ist daher durchaus möglich, dass in den Daten Aspekte verborgen sind, die zu Diskriminierung führen.

Leicht zu entdecken

So wie diskriminierende Aspekte im menschlichen Prozess verborgen sein können, so können sie auch in Daten verborgen sein. Der große Unterschied besteht jedoch darin, dass Diskriminierung im menschlichen Prozess sehr schwer zu erkennen und zu korrigieren ist; wie wir aus der Geschichte gelernt haben. Die Diskriminierung bei Daten ist dagegen relativ leicht zu erkennen und auch viel einfacher zu korrigieren. Algorithmen können dazu beitragen.

Aus diesem Grund möchte ich auf der Grundlage der sozialen Bedeutung des Wortes Diskriminierung auf Folgendes hinweisen: Algorithmen diskriminieren nicht. Solange sie von Menschen kontrolliert werden, können sie zu einer Gesellschaft beitragen, in der jeder gleichberechtigt behandelt wird.

„Alle Menschen in den Niederlanden werden unter gleichen Umständen gleich behandelt. Diskriminierung aus Gründen der Religion, der Lebensphilosophie, der politischen Zugehörigkeit, der Rasse, des Geschlechts oder aus anderen Gründen ist nicht zulässig. (Artikel 1, Niederländische Verfassung)

Über diese Kolumne:

In einer wöchentlichen Kolumne, die abwechselnd von Maarten Steinbuch, Mary Fiers, Peter de Kock, Eveline van Zeeland, Lucien Engelen, Tessie Hartjes, Jan Wouters, Katleen Gabriels und Auke Hoekstra geschrieben wird, versucht Innovation Origins herauszufinden, wie die Zukunft aussehen wird. Diese Kolumnisten, gelegentlich ergänzt durch Gast-Blogger, arbeiten alle auf ihre Weise an Lösungen für die Probleme unserer Zeit. Damit es morgen besser wird. Hier sind alle vorherigen Episoden.