Seit 05:05 Uhr Studio 9
Mittwoch, 28.10.2020
 
Seit 05:05 Uhr Studio 9

Breitband | Beitrag vom 26.09.2020

Breitband SendungsüberblickDiskriminierende Algorithmen: Der weiße Mann im Vorschaubild

Moderation: Katja Bigalke und Dennis Kogel

Beitrag hören Podcast abonnieren
Eine Gruppe Freunde macht ein Selfie in der Sonne. (Getty Images / Digital Vision / Flashpop)
Eine Gruppe Freunde – laut Studie bevorzugt der Twitter-Algorithmus Gesichter von weißen Männern für die Vorschau. (Getty Images / Digital Vision / Flashpop)

Ein Algorithmus auf Twitter bevorzugt weiße Gesichter gegenüber schwarzen – es zeigt sich wieder: Algorithmen sind nicht neutral, ihre Entscheidungsgrundlagen nicht transparent. Ein Projekt will das ändern. Außerdem: die Netflix-Doku "The Social Dilemma".

Am vergangenen Wochenende wurde Twitter einem inoffiziellen Test unterzogen. Nutzer veröffentlichten Bilder, auf denen weiße sowie schwarze Menschen abgebildet sind – mit der zugrundeliegenden Frage: Welcher Bildausschnitt wird dann in der Vorschau angezeigt? Also welcher Teil des Bildes ist sichtbar, wenn man durch das durch das Netzwerk scrollt?

Die Ergebnisse waren immer die gleichen: Bei Bildern, auf denen sowohl schwarze als auch weiße Menschen abgebildet sind, werden in der Vorschau der Twitter-App und auf der Webseite die Gesichter der Weißen angezeigt. Diese Auswahl hat bereits in der Vergangenheit für Kritik gesorgt – und auch bei der Videokonferenz-Software Zoom zeigt sich ein ähnliches Problem. Über den weißen Mann im Vorschaubild und Algorithmen mit diskriminierenden oder rassistischen Tendenzen berichtet Hagen Terschüren.

Wenn Algorithmen Menschen benachteiligen, betrifft das oft solche, die gesellschaftlich ohnehin marginalisiert waren und sind, wie beispielsweise Frauen oder People of Color. In den Algorithmen setzen sich also Vorurteile, Diskriminierung und Rassismus fort. Doch algorithmische Entscheidungsprozesse sind längst Teil unseres Alltag: Sie lenken Inhalte in den sozialen Medien, sortieren unsere Warenkörbe – oder zeigen uns automatisierte Bildausschnitte auf Twitter an. Oft passiert das, ohne dass Nutzer und Nutzerinnen die Grundlagen für die Entscheidungen nachvollziehen können.

Wie könnte sich das ändern? Darüber sprechen wir mit dem Technik-Soziologen Jan-Hendrik Passoth. Er entwickelt zusammen mit anderen Forschern die Plattform DataSkop, die auf Basis von Datenspenden algorithmische Entscheidungssysteme untersuchen soll.

Sozialer Sprengstoff aus dem Silicon Valley

In seinem Dokudrama "The Social Dilemma" lässt der Filmemacher Jeff Orlowski eine Reihe ehemaliger Manager und EntwicklerInnen von Facebook, Google, Twitter und Instagram zu Wort kommen. Sie alle eint die Erkenntnis, unbeabsichtigt bei der Erschaffung einer höchst gefährlichen Technologie geholfen zu haben. Und der Wunsch, nun die Welt davor zu warnen. Macht der Film nur Angst oder bringt er die gesellschaftliche Debatte voran? Carina Schroeder hat "The Social Dilemma" geschaut.

Einfluss der Medien: Nutzlose Erregungslogik?

Große Ankündigungen, Riesengeschichte, große Reichweite – und geändert hat sich trotzdem nichts? Wenn wir uns große Leaks aus der Vergangenheit oder auch die jüngsten Wirtschaftsskandale wie CumEx oder FinCen anschauen, fällt auf, dass sich an den Systemen selbst trotz der ausführlichen Medien-Berichterstattung nur sehr wenig bewegt hat.

Sind Menschen der Skandale müde? Hat sich das journalistische Format des "Leaks, der von mehreren Redaktionen aufgearbeitet wird" überholt? Was Medien bewirken können – und was nicht, darüber sprechen wir mit dem Soziologen und Systemtheoretiker Dirk Baecker.

Das Team

Moderation: Katja Bigalke und Dennis Kogel
Redaktion: Marcus Richter, Vera Linss und Jana Wuttke
Webredaktion: Nora Gohlke

Mehr zum Thema

Künstliche Intelligenz – der Turbo-Button für den Kapitalismus
(Deutschlandfunk Kultur, Breitband, 19.09.2020)

Hautfarbe als Messwert: Wie medizinische Tests Rasseunterschiede konstruieren
(Deutschlandfunk Kultur, Zeitfragen, 20.08.2020)

Automatisierte Moral: Das ethische Dilemma des technischen Fortschritts
(Deutschlandfunk Kultur, Politisches Feuilleton, 29.07.2020)

Breitband

Corona-Warn-AppMehr als nur ein “Nice-to-have”
Das Corona-Warn-App Ikon auf einem Smartphone Display (Symbolbild). (picture alliance / NurPhoto / Jakub Porzycki)

Einen "zahnlosen Tiger" nannte Markus Söder die Corona-Warn-App: Seit ihrer Einführung wird die App immer wieder kritisiert. Doch trotz ihrer Schwächen könnte sie noch sehr wichtig werden, sagt Christina Berndt von der Süddeutschen Zeitung.Mehr

weitere Beiträge

Das könnte sie auch interessieren

Entdecken Sie Deutschlandfunk Kultur