Seit 01:05 Uhr Tonart

Donnerstag, 24.09.2020
 
Seit 01:05 Uhr Tonart

Breitband | Beitrag vom 13.06.2020

Breitband SendungsüberblickWie Technologie Rassismus verstärkt

Moderation: Jenny Genzmer und Dennis Kogel

Beitrag hören Podcast abonnieren
Videokamera, zur Überwachung, an einem Gebäude. (imago images / Jochen Tack)
Die Software, die Bilder einer Überwachungskamera auswertet, kann Menschen benachteiligen. (imago images / Jochen Tack)

Auf weiße Gesichter trainierte Gesichtserkennung, Predictive Policing mit diskriminierenden Datensätzen: Wie viel Rassismus steckt in Algorithmen oder den ihnen zugrunde liegenden Daten? Außerdem: Politik auf TikTok und Black Lives Matter in Games.

Die Proteste in den USA gegen Polizeigewalt und Rassismus haben nun auch Einfluss auf die Tech-Konzerne: Anfang der Woche kündigte IBM an, sich aus dem Geschäft mit Gesichtserkennungssoftware zurückzuziehen. In einem Brief an US-Abgeordnete erklärte das Unternehmen, man wolle nicht zulassen, dass Technologie für Massenüberwachung, rassistische Diskriminierung oder Menschenrechtsverletzungen verwendet wird.

Kurz darauf zogen Amazon und Microsoft nach und kündigten an, ihre Systeme der Polizei vorerst nicht mehr zur Verfügung zu stellen. 

Abonnieren Sie unseren Kulturnewsletter "Weekender". Die wichtigsten Kulturdebatten und Empfehlungen der Woche. Ab jetzt immer freitags per Mail. (@ Deutschlandradio)

Der Einsatz von Gesichtserkennung ist nicht nur auf Demonstrationen in Bezug auf die Versammlungsfreiheit problematisch. In China beispielsweise wird Gesichtserkennung eingesetzt, um die uigurische Minderheit zu überwachen und zu schikanieren. Zudem belegen Studien, dass die Technologie Rassismus und Diskriminierung reproduziert, weil sie vor allem auf weiße Gesichter trainiert ist.

In einem Gastbeitrag auf Netzpolitik.org fragt Sarah Chander von der Organisation European Digital Rights: "Welche technologischen Entwicklungen können und wollen wir nicht akzeptieren?" Chander schreibt: "Die Systeme, die eingesetzt werden, um unser Leben zu verbessern, sollten daran gemessen werden, ob sie das auch schaffen – und zwar unabhängig davon, wie viel Geld wir haben, ob wir Geschlechternormen einhalten, woher wir kommen oder welche Hautfarbe wir haben."

Wir sprechen mit Sarah Chander und fragen: Welchen Einfluss hat die Positionierung einiger Tech-Konzerne auf die Debatte und wie können in Zukunft Rassismus und Diskriminierung in Algorithmen vermieden werden?

TikTok als Plattform politischer Aktion

Die Videoplattform TikTok gewinnt weiter an Popularität: Im letzten Jahr war die App auf Platz zwei der weltweiten Downloads, im ersten Quartal 2020 hat sie mit mehr als 315 Millionen Downloads einen Rekord aufgestellt. Lange wurde das Netzwerk für seine vermeintlich banalen Inhalte wie Tanzchoreografien, Musiksynchronistationen oder Comedy belächelt, doch schon länger spielt dort auch Politik eine Rolle.

Die Proteste rund um George Floyds Tod hätten die Politisierung der Plattform zusätzlich beschleunigt, sagt der Datenforscher Juan Carlos Medina Serrano auf bento.de. Serrano hat die politische Kommunikation auf TikTok am Beispiel der USA untersucht und die Ergebnisse in der Studie "Dancing to the partisan beat" veröffentlicht.

Wir sprechen mit Juan Carlos Medina Serrano über die politischen Inhalte auf TikTok, die Unterschiede zu anderen sozialen Netzwerken und über die Kritik an der chinesischen Plattform.

Black Lives Matter und die Gaming-Szene

Der popkulturelle Kosmos der Computerspiele ist einerseits dafür bekannt, auf völlig neuen Wegen politische Fragestellungen zu diskutieren, andererseits werden gesellschaftliche Debatten in Games teilweise explizit vermieden: weil ja alles "nur ein Spiel" ist. Wie die Diskussion um Black Lives Matter geführt wird und was die Bewegung in der Gaming-Szene ausgelöst hat, berichtet Marcus Richter. 

Zum Beispiel hat die Indie-Plattform itch.io ein "Bundle for Racial Justice and Equality" geschnürt und damit fast sechs Millionen Dollar für die Black Lives Matter-Bewegung gesammelt. Der Spielekonzern Activision Blizzard hat angekündigt, vier Millionen Dollar zu spenden. Doch ingesamt erweckt die Branche den Eindruck, dass sie sich nur so weit solidarisiert, wie es aus PR-Zwecken notwendig ist. 

Dass Games auffallend Weiß sind, beschreibt der Beitrag "50 Shades of White: Schwarze Avatare in Games", der ursprünglich im Spielemagazin WASD erschienen ist und nun auf dem Blog Grenzgamer noch einmal veröffentlicht wurde.

Manipulatives Design

Ob beim Akzeptieren von Cookies, in Webshops oder auf Buchungsseiten: Oft sollen Nutzer zu Handlungen verführt werden, die sie selbst eigentlich gar nicht wollen. Das passiert durch sogenannte "Dark Patterns" – so nennt der Webdesigner Harry Brignull Design, das die Nutzer in die Irre führt. Wie genau das aussieht, hat sich Hagen Terschüren angeschaut.

Team

Moderation: Jenny Genzmer und Dennis Kogel
Redaktion: Jochen Dreier und Jana Wuttke
Beiträge: Marcus RichterHagen Terschüren
Webredaktion: Nora Gohlke

Mehr zum Thema

Ist George Floyds Tod der Wendepunkt?
(Deutschlandfunk Kultur, Weltzeit, 11.06.2020)

Rassismus-Debatte nach dem Tod George Floyds: Aminata Touré und Sandra Kostner im Gespräch
(Deutschlandfunk Kultur, Interview, 08.06.2020)

Polizeigewalt und Pressefreiheit
(Deutschlandfunk Kultur, Breitband, 06.06.2020)

Breitband

Wau-Holland-StiftungHacker im Ehrenamt
Wau Holland vor seinem Arbeitsgerät 1984. (picture-alliance / dpa)

Wau Holland war Hacker und Mitbegründer des Chaos Computer Clubs. Eine nach ihm benannte Stiftung unterstützt neben Projekten zur Informationsfreiheit die Verteidigung von Whistleblowern wie WikiLeaks-Gründer Julian Assange. Anna Loll weiß, warum.Mehr

weitere Beiträge

Das könnte sie auch interessieren

Entdecken Sie Deutschlandfunk Kultur