Seit 22:03 Uhr Kriminalhörspiel

Montag, 18.11.2019
 
Seit 22:03 Uhr Kriminalhörspiel

Breitband | Beitrag vom 02.11.2019

Kritik an DatenethikkommissionPolitologin sieht Gefahr für die Demokratie

Lorena Jaume-Palasí im Gespräch mit Jenny Genzmer und Tim Wiese

Beitrag hören Podcast abonnieren
Fieberglaskabel und technische Platinen (imago images / Westend61)
Welche Regeln brauchen wir im Netz? - Darüber ist nach der Veröffentlichung des Abschlussberichts der Datenethikkommission eine Diskussion entbrannt. (imago images / Westend61)

Die Politikwissenschaftlerin Lorena Jaume-Palasí kritisiert den Abschlussbericht der Datenethikkommission scharf: Die Annahmen seien nicht wissenschaftlich überprüft, er enthalte keine ethischen Empfehlungen, Vorschläge daraus seien eine Gefahr für die Demokratie.

Vor einem Jahr wurde die Datenethikkommissorion vom Bundesinnen- und Justizministerium eingerichtet, um Leitlinien für den ethischen Umgang mit Daten und Algorithmen zu erarbeiten. Ende Oktober hat die Kommission nun ihr Abschlussgutachten vorgelegt. Auf knapp 240 Seiten gibt sie 75 Empfehlungen, wie die Politik mit Daten und algorithmischen Systemen umgehen soll.

Die Reaktionen auf den Bericht sind gemischt: "Besser gelungen als erwartet", heißt es auf netzpolitik.org. Auch Lorenz Matzat beurteilt auf Algorithmwatch die Empfehlungen als "eine überfällige und substanzielle Diskussionsgrundlage" und als "Steilvorlage für die Zivilgesellschaft".

Der Industrieverband Bitkom hingegen warnt – erwartungsgemäß – vor Regulierungswut. Aber auch von Medien- und Expertenseite kommt Kritik: GEO-Chefredakteur Christoph Kucklick nennt das Gutachten eine "Blaupause für Totalregulierung der digitalen Sphäre".

Technophob und demokratiegefährdend?

Aus Sicht der Politikwissenschaftlerin Lorena Jaume-Palasí sind die Vorschläge der Ethikkommission aus ganz anderen Gründen angreifbar, ja geradezu demokratiegefährdend: Zum einen würden sie "ein technophobes Bild" zeichnen, in dem davon ausgegangen werde, "dass sich Menschen allein durch algorithmische Systeme manipulieren lassen".

Zum anderen fehle dem Bericht der Ethikkommission genau das, was der Titel des Berichts eigentlich verspreche: nämlich "ethische Empfehlungen", die sich auf technische Erneuerungen beziehen und bereits bestehende ethische Richtlinien unserer Gesellschaft ergänzen.

Demokratien kennen Individuen, Algorithmen Kollektive

Dabei müsse ein neuer, kollektiver Blick eingenommen werden. Denn bisher würden Demokratien "nur Individuen kennen". Auch das Rechtssystem und der Datenschutz gehen vom Individuum aus. Bei kollektiven Problemen wie Umweltthemen und algorithmischen Systemen stoße die Demokratie mit diesem Ansatz jedoch an ihre Grenzen.

Porträt von Lorena Jaume-Palasi (picture alliance / dpa / Steffen Leidel)Lorena Jaume-Palasi, Gründerin der Ethical Tech Society in Berlin, beschäftigt sich mit der sozialen Dimension von Technologie. (picture alliance / dpa / Steffen Leidel)

Denn: "Algorithmen kennen nur Kollektive; versuchen, über Durchschnitte Menschen in Schubladen zu stecken, und dabei wird das Individuelle nicht abgebildet. Und wenn man das bedenkt: Einerseits hat man Algorithmen, die Individuen nicht verstehen. Und dann haben wir die Regeln des Demokratischen, die nur Individuen verstehen. Da haben wir ein gewisses Problem."

Trägt die Technologie zum sozialen Zusammenhalt bei?

Als Beispiel nennt Jaume-Palasí Predictive Policing, vorhersagende Polizeiarbeit, die auf Algorithmen basiert und in Deutschland dazu genutzt wird vorherzusagen, in welchen Vierteln in nächster Zeit mit hoher Wahrscheinlichkeit Einbrüche begangen werden.

"Das ist eine Technologie, die auf anonymisierten Daten basiert." Aufgrund der Anonymisierung greife der Datenschutz nicht. "Denn Datenschutz bezieht sich nur auf personenbezogene Daten" – und somit nur auf die individualrechtliche Ebene. "Aber es gibt viele andere Fragen, die man hätte stellen können, wenn man den kollektiven Blick darauf wirft. Fragen wie: Was passiert eigentlich mit den Menschen, die da wohnen? Sehen wir, dass die Mittelschicht einfach wegzieht, weil sie so viel Polizeipräsenz sehen, weil sie sich verunsichert fühlen?" Vor allem aber: "Ist diese Technologie nachhaltig? Ist diese Technologie eine Technologie, die zum sozialen Zusammenhalt beiträgt, oder die dazu führt, dass gerade das Gegenteil passiert, weil wir No-Go-Areas kreieren? Das sind die Fragen, die man hätte stellen können und die die Ethikkommission nicht gestellt hat."

Im Zweifel für den Kläger?

Aus den Vorschlägen der Ethikkommission nun Rechtsnormen zu entwickeln – darin sieht Jaume-Palasí aber geradezu eine Gefahr für die Demokratie. Denn die einheitlichen Vorgaben würden in alle Lebensbereiche eingreifen und so das bisherige Rechtssystem mit seinen verschiedenen Vorgaben und Unterscheidungen "platt machen", so Jaume-Palasí: "Man würde über diese Datenverarbeitungsvorgaben sich in allen Rechtsgebieten auf diese Technikorientiertheit fokussieren."

Beispielsweise müsse man als Anbieter einer IT-Dienstleistung erst einmal nachweisen, dass man nichts Böses vorhabe und eine Erlaubnis einholen. Ansonsten sei es verboten. Das Prinzip "im Zweifel für den Angeklagten" werde hier also ins Gegenteil verkehrt und laute dann: im Zweifel für den Kläger. Dieses Prinzip aus dem Datenschutz werde damit auch auf andere Bereiche ausgeweitet, ohne explizit zu sagen, welche Werte dort geschützt werden sollen.

(lkn)

Mehr zum Thema

Algorithmen in der Medizin - Wenn der Patient zum "Datenkörper" wird
(Deutschlandfunk Kultur, Breitband, 11.05.2019)

Algorithmen im Arbeitsamt - Wenn Künstliche Intelligenz Bürger verwaltet
(Deutschlandfunk, Hintergrund, 24.03.2019)

Ethik in der Künstlichen Intelligenz - Moral für Maschinen?
(Deutschlandfunk Kultur, Breitband, 02.02.2019)

Breitband

weitere Beiträge

Das könnte sie auch interessieren

Entdecken Sie Deutschlandfunk Kultur