Wieso kann der Zalando Einkauf plötzlich nur noch mit der Kreditkarte bezahlt werden und nicht mehr per Rechnung? Der liegengebliebene Einzahlungsschein der letzten Bestellung könnte die Ursache sein. Dieser Fauxpas wurde vom Computersystem registriert und der Kunde deshalb als weniger zahlungsfähig eingestuft. Ergo können die neuen Sachen nur bestellt werden, wenn vorher der Rubel rollt. Immerhin liegt in diesem Fall ein bestimmtes Unterlassen vor, das Nichtbegleichen einer Rechnung, welches diese Konsequenz nach sich zieht. In anderen Fällen können Algorithmen das Zahlverhalten von Kunden beim online Shopping bereits aufgrund ihrer Postleitzahl bewerten. Wohnt jemand beispielsweise in einer einkommensschwachen Gegend, schliesst der Algorithmus bei dieser Person automatisch auf eine schlechte Zahlungsfähigkeit. In diesem Fall kann die online Shoppingtour von Anfang an nicht per Rechnung bezahlt werden. Spielt ja eigentlich gar keine Rolle, am Schluss muss der Einkauf so oder so bezahlt werden – magst Du in diesem Moment denken. Allerdings kann dasselbe Vorgehen auch auf die Kreditvergabe angewendet werden. Im schlimmsten Fall kann die angehende Studentin aus dem günstigen Wohnviertel also gar keinen Kredit aufnehmen, um die Studiengebühren zu finanzieren. Der Traum vom universitären Abschluss kann dadurch in weite Ferne rücken.
Algorithmen begegnen uns im täglichen Leben überall und vereinfachen unseren Alltag enorm: Der Musikstreaming-Dienst Spotify erstellt eine Playlist nach unserem Geschmack, Google Maps zeigt uns den kürzesten Weg durch die Stadt und unzählige Fitness-Apps zählen unsere Schritte oder messen den Schlafrhythmus. Damit lassen sich heute zahlreiche Körperfunktionen rund um die Uhr akribisch messen, analysieren und optimieren. Wie viele Kilometer habe ich auf der Wanderung zurückgelegt? Solche und andere Daten interessieren nicht nur mich, sondern auch die Herausgeber solcher Apps, in diesem Fall womöglich die Krankenkasse. Die Anreize setzen sie dementsprechend so, dass sich die Messung und Bereitstellung der Daten für den Kunden vordergründig lohnen. Es winken beispielsweise Vergünstigungen aufs Fitnessabonnement oder auf die monatliche Prämie. Die Krankenkasse wiederum erhält dadurch gigantische Datenmengen und kann anhand von Algorithmen für jeden Kunden ein detailliertes Profil erstellen und prognostizieren, wann und woran jemand erkrankt oder sogar stirbt. Mit Blick auf die Schweiz dienen solche Tools momentan vor allem als Marketingmassnahmen. Es gelten gesetzliche Leitplanken, die eine Kundenselektion durch die Krankenkassen aufgrund der gesammelten Gesundheitsdaten verhindert. Rein technisch ist die Erstellung von Gesundheitsprofilen bereits heute problemlos möglich.
Was haben diese Beispiele gemeinsam? In allen Fällen ist im Hintergrund eine mathematische Formel tätig und trifft eine Entscheidung für oder über uns. Solche Formeln, oder eben Algorithmen, wurden ursprünglich von Programmierern erstellt und funktionieren anschliessend eigenständig. Sobald sie zum Einsatz kommen, beginnen Algorithmen anhand der Realität zu lernen und passen ihre Entscheidungen an. Ab diesem Moment entzieht sich der Algorithmus der Kontrolle eines Programmierers und agiert selbständig. Es ist unbestritten, dass algorithmische Entscheidungen immer akkurater und verlässlicher werden und unser Leben vereinfachen. Ein Verzicht darauf wäre nicht nur fortschrittsverweigernd, sondern auch mit einem enorm höheren Zeit- und Kostenaufwand verbunden. Ein simples Beispiel dafür ist der Vergleich von zig Angeboten eines Hotelzimmers im Netz, um am Schluss die günstigste Option zu buchen. Die algorithmische Unterstützung ist daher sinnvoll und es wäre widersinnig, würden wir sie nicht nutzen.
Was ist falsch an guten Anreizen?
Wer fristgerecht zahlt oder einen gesunden Lifestyle pflegt, wird von den Algorithmen belohnt, sei es mit Vergünstigungen oder besseren Konditionen. Mit ihrer Entscheidungsmacht beeinflussen sie also unser Verhalten. Oft wird das Argument angebracht, dass damit Anreize gesetzt werden, die uns dabei helfen, eine bessere und gesündere Gesellschaft zu bilden. Daran kann doch nichts verkehrt sein, oder?
In ihrer Entscheidungsfindung bleiben Algorithmen sogenannte Black-Boxes. Denn die Faktoren, die bei der algorithmischen Entscheidung eine Rolle spielen, bleiben intransparent. Folglich passen wir unser Handeln und Denken der algorithmischen Entscheidungsmacht an, ohne zu wissen, welche Kriterien zugrunde liegen. Konkret weiss ich also nicht, ob ich als kreditunwürdig gelte aufgrund meines Wohnorts, wegen einer liegengebliebenen Rechnung oder weil ich womöglich viele zahlungsschwache Personen in meinem sozialen Netzwerk habe. Diese Intransparenz ist auf zwei Arten bedenklich: Erstens bleibt unklar, ob die Faktoren, welche in die Entscheidung einfliessen, überhaupt gerechtfertigt sind und tatsächlich messen, was sie vorgeben zu messen. Zweitens ist es ohne dieses Wissen nur sehr schwer möglich, sich anzupassen, um eine andere Einstufung durch den Algorithmus zu erzielen.
Es erstaunt deshalb nicht, dass rund um die Decodierung von Algorithmen ein ganzer Markt am Entstehen ist. Das sogenannte Reverse Engineering hat zum Ziel, die einzelnen Faktoren und deren Gewichtung in Algorithmen zu entziffern. Solches Wissen bildet einen enormen Vorteil. Die Resultate bleiben jedoch denjenigen vorbehalten, die ausreichend Zeit und Geld investieren. Für alle anderen bleiben Algorithmen weiterhin undurchsichtige Black-Boxes.
Wir verhalten uns also nach den Regeln eines Algorithmus, der unser Verhalten und unsere Entscheide steuert, doch dessen Prämissen uns mehrheitlich verborgen bleiben. Dies lässt sich nicht vereinbaren mit liberalen Werten wie persönlicher Freiheit, Selbstbestimmung und Souveränität. Eine allgemein zugängliche Transparenz und Offenlegung von algorithmischen Entscheidungsfindungen sind notwendig, um nicht in algorithmischer Fremdbestimmung zu leben und die Grundwerte eines souveränen Lebens zu sichern. Der Weg dahin dürfte allerdings steinig werden, denn welche Organisation gibt schon gern seine algorithmischen Geheimnisse preis?
