Seit 01:05 Uhr Tonart

Donnerstag, 20.02.2020
 
Seit 01:05 Uhr Tonart

Buchkritik / Archiv | Beitrag vom 20.09.2017

Cathy O'Neil: "Angriff der Algorithmen" Mathematische Massenvernichtungswaffen

Von Gerrit Stratmann

Podcast abonnieren
Buchcover "Angriff der Algorithmen", im Hintergrund ein Computerbildschirm (unsplash / Ilya Pavlov / Buchcover Hanser Verlag)
"Angriff der Algorithmen" von Cathy O'Neil (unsplash / Ilya Pavlov / Buchcover Hanser Verlag)

Längst greifen Algorithmen in unser Leben ein: Sie berechnen unsere Kreditwürdigkeit oder bestimmen unsere Eignung für einen Job. Cathy O'Neil zeigt in "Angriff der Algorithmen" die Gefahren der Datenwirtschaft. Unser Kritiker wünscht dem Buch viele Leser.

Konzerne und staatliche Behörden setzen mathematische Modelle ein, die unser Verhalten vorhersagen sollen. Manche von ihnen haben verheerende Auswirkungen. Weapons of Math Destruction (WMD) – mathematische Massenvernichtungswaffen – nennt Cathy O‘Neil diese Modelle in ihrem Buch "Angriff der Algorithmen". Die promovierte Mathematikerin zeigt, wie sie Ungleichheit fördern und zementieren, und welche zerstörerische Kraft sie entfalten können.

In Washington DC wurden Lehrer auf Grund dubioser Annahmen eines Algorithmus-Modells entlassen. Skrupellose Kredithaie suchen mit deren Hilfe nach bedürftigen Menschen, um ihnen teure Kredite zu verkaufen. Versicherungen berechnen, wie wahrscheinlich sich ein Kunde nach alternativen Angeboten umsehen wird – und verteuern ihre Tarife, wenn er das vermutlich nicht macht. Auf Effizienz getrimmte Personaleinsatzplanungssoftware zwingt Angestellten unmenschliche Arbeitsrhythmen auf. Und das sind nur einige Beispiele aus Cathy O‘Neils Buch für die Auswirkungen der Datenwirtschaft auf unser Leben.

Die meisten Algorithmen sind eine Black Box

Das Internet ist für Datenanalysten ein Labor. Mit personalisierter Werbung, sogenanntem Microtargeting, lässt sich so schnell wie nie zuvor herausfinden, welche Werbung auf wen welche Wirkung hat. Mathematiker analysieren unsere Bewegungsprofile, Suchanfragen und Facebook-Likes, und prognostizieren daraus unser Kauf- und Wahlverhalten, unsere Kreditwürdigkeit, die Eignung für einen Job, unseren Bildungsstand oder die Wahrscheinlichkeit, ein Verbrechen zu begehen. Die meisten dieser Algorithmen sind eine Black Box. Kein Außenstehender könne nachvollziehen, wie die Software ihn bewerte, kritisiert Cathy O‘Neil. Das mache sie nahezu unangreifbar.

In klaren Worten durchdenkt O‘Neil konsequent die Logik einiger besonders ungerechter Algorithmus-Modelle. Ganz ohne Programmcode und Mathematik erzählt sie, was ein gutes Modell von einem schlechten unterscheidet, zeigt, welche Fehler oder unwissenschaftlichen Annahmen einer "mathematischen Massenvernichtungswaffe" zugrunde liegen können und welche Folgen das hat.

Ein beunruhigender Blick hinter die Kulissen der Datenwirtschaft

"Angriff der Algorithmen" ist ein beunruhigender Blick hinter die Kulissen der Datenwirtschaft und ein Appell für menschlichere Modelle, die mehr auf Gerechtigkeit achten und weniger auf Profite und Effizienz. Für den deutschen Leser ist es bedauerlich, dass das Buch ausschließlich amerikanische Verhältnisse beschreibt. Dabei sind viele der geschilderten Szenarien auch hierzulande bereits anzutreffen, wenn auch abgemildert durch das deutlich schärfere Datenschutzrecht. Cathy O‘Neils Warnung, wichtige Entscheidungen, die das Wohl anderer Menschen betreffen, nicht ausschließlich in die Hände undurchschaubarer Algorithmen zu legen, gilt natürlich für die weltweite Datenwirtschaft. Ihre Aufklärungsarbeit, die auf eine immer stärker werdende Spaltung der Gesellschaft und eine schleichende Entmündigung durch Maschinen aufmerksam macht, verdient eine breite Leserschaft.

Cathy O’Neil: Angriff der Algorithmen. Wie sie Wahlen manipulieren, Berufschancen zerstören und unsere Gesundheit gefährden
Übersetzt von Karsten Petersen
Carl Hanser Verlag, München 2017
346 Seiten, 24 Euro

Mehr zum Thema

Anselm Franke: "Nervöse Systeme" - Maschine gegen Mensch
(Deutschlandfunk, Büchermarkt, 18.09.2017)

Moritz Riesewieck: "Digitale Drecksarbeit" - Facebook vom Bösen erlösen
(Deutschlandfunk Kultur, Lesart, 16.09.2017)

Big Data - Maschinen statt Menschen
(Deutschlandfunk Kultur, Zeitfragen, 14.09.2017)

Buchkritik

weitere Beiträge

Literatur

weitere Beiträge

Entdecken Sie Deutschlandfunk Kultur