Dein Zugang zu mehr Orientierung. Kostenlos.

Abonniere unseren zweiwöchentlichen Newsletter und schalte mit dem Passwort alle Inhalte auch auf unserer Website frei.

Password must be at least 7 characters long.

    
     
   
Du hast schon einen Flip-Zugang?
Vielen Dank für Deine Anmeldung. So geht es weiter:

Bestätigungs-
E-Mail öffnen

Bestätigungslink klicken

Mit E-Mail und Passwort anmelden und weiterlesen

Mail nicht angekommen? Bitte prüfe deinen Spam- oder Werbung-Ordner und füge uns deinem Adressbuch hinzu, um zukünftige E-Mails zu erhalten. Bei weiteren Fragen sende uns eine E-Mail an [email protected].

Anmelden

FLIP #40

Algorithm Watch knackt ungerechte Algorithmen

Share on twitter
Share on facebook
Share on linkedin
Share on email
Was Dich hier erwartet:


Was ist das Problem?

Über immer mehr Bereiche in unserem Leben bestimmen Algorithmen. Sie entscheiden, wer einen Kredit erhält, welche Jobs wir bekommen – in den USA werden sogar Gerichtsentscheidungen teilweise von Algorithmen getroffen. 

Algorithmen sind, vereinfacht gesagt, Formeln, anhand derer Wenn-Dann-Entscheidungen getroffen werden. Wenn Du auf Instagram fleißig Flip-Beiträge likst, dann zeigt der Algorithmus öfter Flip-Beiträge an. Das ist erstmal nix Schlechtes (im Gegenteil 😉). Gefährlich wird es, wenn Algorithmen ungerechte oder diskriminierende Entscheidungen treffen. Im Extremfall werden schwarze US-Amerikaner:innen von Algorithmen häufiger ins Gefängnis gesteckt als weiße

In den meisten Fällen haben wir keine Ahnung, wie Algorithmen zu solchen Entscheidungen kommen. Der Code, der dahinter steckt, ist oft so komplex, dass selbst die Entwickler:innen teilweise nicht mehr verstehen, wie die Ergebnisse zustande kommen. Dazu kommt: Meta, Google und Co. halten ihre Algorithmen streng unter Verschluss. Niemand weiß, was genau in den Black Boxes vor sich geht, in denen über unser Leben entschieden wird. 

74 Prozent

der Menschen in der EU finden, dass Algorithmen stärker kontrolliert werden sollten. Das ergab eine repräsentative Umfrage der Bertelsmann Stiftung von 2018.


Was ist der Ansatz von Algorithm Watch?

Algorithm Watch ist ein gemeinnütziges Unternehmen, das die Black Boxes öffnen will. Die Algorithmen, die unseren Alltag bestimmen, sollen für alle transparent werden. Dass Entscheidungen automatisiert werden, findet Algorithm Watch grundsätzlich weder gut noch schlecht. Die 27 Journalist:innen, Wissenschaftler:innen und Informatiker:innen wollen herausfinden, wo Algorithmen Schaden anrichten und Betroffenen helfen. 

Ein ungewöhnliches Bild: Meistens arbeitet das Team von Algorithm Watch nämlich von zuhause aus. Foto: Julia Bornkessel Foto: Julia Bornkessel, CC BY 4.0


Dafür sammelt das Team Datenspenden von Nutzer:innen, recherchiert bei Behörden und versucht etwa, den Algorithmus von YouTube oder Instagram nachzubauen. Dabei geht es ihm weniger um die die technischen Details als um die gesellschaftlichen Folgen.

»Niemand weiß, wie viele Menschen eigentlich von Algorithmen benachteiligt werden.«

Anna Lena Schiller, Algorithm Watch

Und was heißt das konkret?

Um zu verstehen, wie man Algorithmen transparent macht, hat Flip-Autor Lorenz Jeric im Berliner Büro von Algorithm Watch mit Anna Lena Schiller und Jessica Wulf über zwei Projekte gesprochen. Die beiden sind seit 2020 dabei und gehören damit zu den alteingesessenen Mitarbeiter:innen. In den vergangenen zwei Jahren hat sich das Team mehr als verdoppelt. 

1. Datenspenden als Schlüssel für die Schufa-Black-Box
Der Algorithmus der Schufa bewertet die Kreditwürdigkeit der Deutschen. Das Unternehmen vergibt Scores für rund 67 Millionen Menschen, die am Ende darüber entscheiden, ob wir eine Wohnung bekommen oder mit einem Mietwagen in den Urlaub fahren können. Wie diese Scores zustande kommen, weiß nur die Schufa selbst. Und die ist nicht daran interessiert, ihre Black Box zu öffnen. Das muss sie auch nicht, denn 2014 wurde ihre Formel vom Bundesgerichtshof zum Geschäftsgeheimnis erklärt. 

Kostenlos weiterlesen?

Freut uns, dass der Artikel bis hierhin Dein Interesse geweckt hat. Wenn Dich interessiert, wie es weitergeht, registriere Dich einfach kurz, und schon gehts weiter…

Kostenlos und unverbindlich

Zugang zu allen Web-Inhalten

Zugriff auf das Newsletter-Archiv

Du bist bereits registriert?
Share on twitter
Share on facebook
Share on linkedin
Share on email

Was ist die Flip-Box?

Die Flip-Box ist Nachhaltigkeit zum Anfassen, Ausprobieren und Entdecken. In ihr fließt viel zusammen, was Flip ausmacht: Ganz konkrete Ideen für eine bessere Wirtschaft, unsere Recherchen und Eure Bewertungen. Sie enthält fünf Produkte, die Ihr auf Basis unserer Recherchen mit einem besonders hohen Flip-Score bewertet habt. Dazu gibt es ein hochwertiges Magazin, das die Geschichten hinter diesen Produkten erzählt.

Was ist ein Flip?

Flips nennen wir Ideen, die zu einer besseren Wirtschaft beitragen können. Wir stellen sie vor, recherchieren und sprechen mit unabhängigen Experten. Ihr entscheidet: Ist die Idee wirklich ein Flip oder doch ein Flop?

Was ist eine Learning Journey?

Unsere besonders aufwendigen Produktionen bezeichnen wir als Learning Journey. Diese Projekte sollen ein drängendes Problem ganz grundsätzlich aufrollen, um am Ende besser zu verstehen, wie Lösungen aussehen könnten. Dazu recherchieren wir investigativ, arbeiten mit reichweitenstarken Medienpartnern zusammen und veröffentlichen seriell und crossmedial auf vielen Kanälen. Das Ziel: Gemeinsam die Welt verstehen, um sie zu verbessern.