Dein Zugang zu mehr Orientierung. Kostenlos.

Schalte mit der Registrierung alle Inhalte auf unserer Website frei.

Password must be at least 7 characters long.

     
   
Du hast schon einen Flip-Zugang?
Vielen Dank für Deine Anmeldung. So geht es weiter:

Bestätigungs-
E-Mail öffnen

Bestätigungslink klicken

Mit E-Mail und Passwort anmelden und weiterlesen

Mail nicht angekommen? Bitte prüfe deinen Spam- oder Werbung-Ordner und füge uns deinem Adressbuch hinzu, um zukünftige E-Mails zu erhalten. Bei weiteren Fragen sende uns eine E-Mail an [email protected].

Anmelden

707f6c4b-10c2-af7c-02e6-aeb934e7a240
FLIP #40

Algorithm Watch knackt ungerechte Algorithmen

Was Dich hier erwartet:


Was ist das Problem?

Über immer mehr Bereiche in unserem Leben bestimmen Algorithmen. Sie entscheiden, wer einen Kredit erhält, welche Jobs wir bekommen – in den USA werden sogar Gerichtsentscheidungen teilweise von Algorithmen getroffen. 

Algorithmen sind, vereinfacht gesagt, Formeln, anhand derer Wenn-Dann-Entscheidungen getroffen werden. Wenn Du auf Instagram fleißig Flip-Beiträge likst, dann zeigt der Algorithmus öfter Flip-Beiträge an. Das ist erstmal nix Schlechtes (im Gegenteil 😉). Gefährlich wird es, wenn Algorithmen ungerechte oder diskriminierende Entscheidungen treffen. Im Extremfall werden schwarze US-Amerikaner:innen von Algorithmen häufiger ins Gefängnis gesteckt als weiße

In den meisten Fällen haben wir keine Ahnung, wie Algorithmen zu solchen Entscheidungen kommen. Der Code, der dahinter steckt, ist oft so komplex, dass selbst die Entwickler:innen teilweise nicht mehr verstehen, wie die Ergebnisse zustande kommen. Dazu kommt: Meta, Google und Co. halten ihre Algorithmen streng unter Verschluss. Niemand weiß, was genau in den Black Boxes vor sich geht, in denen über unser Leben entschieden wird. 

74 Prozent


Was ist der Ansatz von Algorithm Watch?

Algorithm Watch ist ein gemeinnütziges Unternehmen, das die Black Boxes öffnen will. Die Algorithmen, die unseren Alltag bestimmen, sollen für alle transparent werden. Dass Entscheidungen automatisiert werden, findet Algorithm Watch grundsätzlich weder gut noch schlecht. Die 27 Journalist:innen, Wissenschaftler:innen und Informatiker:innen wollen herausfinden, wo Algorithmen Schaden anrichten und Betroffenen helfen. 

Ein ungewöhnliches Bild: Meistens arbeitet das Team von Algorithm Watch nämlich von zuhause aus. Foto: Julia Bornkessel Foto: Julia Bornkessel, CC BY 4.0


Dafür sammelt das Team Datenspenden von Nutzer:innen, recherchiert bei Behörden und versucht etwa, den Algorithmus von YouTube oder Instagram nachzubauen. Dabei geht es ihm weniger um die die technischen Details als um die gesellschaftlichen Folgen.

»Niemand weiß, wie viele Menschen eigentlich von Algorithmen benachteiligt werden.«

Und was heißt das konkret?

Um zu verstehen, wie man Algorithmen transparent macht, hat Flip-Autor Lorenz Jeric im Berliner Büro von Algorithm Watch mit Anna Lena Schiller und Jessica Wulf über zwei Projekte gesprochen. Die beiden sind seit 2020 dabei und gehören damit zu den alteingesessenen Mitarbeiter:innen. In den vergangenen zwei Jahren hat sich das Team mehr als verdoppelt. 

1. Datenspenden als Schlüssel für die Schufa-Black-Box
Der Algorithmus der Schufa bewertet die Kreditwürdigkeit der Deutschen. Das Unternehmen vergibt Scores für rund 67 Millionen Menschen, die am Ende darüber entscheiden, ob wir eine Wohnung bekommen oder mit einem Mietwagen in den Urlaub fahren können. Wie diese Scores zustande kommen, weiß nur die Schufa selbst. Und die ist nicht daran interessiert, ihre Black Box zu öffnen. Das muss sie auch nicht, denn 2014 wurde ihre Formel vom Bundesgerichtshof zum Geschäftsgeheimnis erklärt. 

Zugang zu allen Flip-Recherchen

Registriere dich kostenlos bei Flip, um alle Artikel auf der Website freizuschalten und erhalte Zugang zu all unseren Newsletter-Ausgaben.

Komplett kostenlos

Zugang zu allen Artikeln

Newsletter-Archiv

Du bist bereits registriert?

Disclaimer

Für das Crowdfunding des Marabu-Sneakers und dessen weitere Realisierung hat FLIP gemeinsam mit dem Münchner Sneakerhersteller MONACO DUCKS die Firma GRND gegründet, an der beide Partner zu 50 Prozent beteiligt sind.

Was ist ein Flip?

Flips nennen wir Ideen, die zu einer besseren Wirtschaft beitragen können. Wir stellen sie vor, recherchieren und sprechen mit unabhängigen Experten. Ihr entscheidet: Ist die Idee wirklich ein Flip oder doch ein Flop?

Was ist eine Learning Journey?

Unsere besonders aufwendigen Produktionen bezeichnen wir als Learning Journey. Diese Projekte sollen ein drängendes Problem ganz grundsätzlich aufrollen, um am Ende besser zu verstehen, wie Lösungen aussehen könnten. Dazu recherchieren wir investigativ, arbeiten mit reichweitenstarken Medienpartnern zusammen und veröffentlichen seriell und crossmedial auf vielen Kanälen. Das Ziel: Gemeinsam die Welt verstehen, um sie zu verbessern.