Seit 01:05 Uhr Tonart

Dienstag, 26.05.2020
 
Seit 01:05 Uhr Tonart

Buchkritik | Beitrag vom 15.05.2020

Roberto Simanowski: "Todesalgorithmus"Die Selbstentmachtung des Menschen

Von Vera Linß

Beitrag hören Podcast abonnieren
Das Buchcover von "Todesalgorithmus" von Roberto Simanowski vor Deutschlandfunk Kultur Aquarellhintergrund.. (Passagen Verlag / Deutschlandfunk Kultur)
Radikal gedacht: "Todesalgorithmus" von Roberto Simanowski. (Passagen Verlag / Deutschlandfunk Kultur)

Die Unantastbarkeit der Menschenwürde ist in Gefahr, wenn Künstliche Intelligenz mit über Leben und Tod entscheiden soll. Bleibt nur: den Algorithmen gleich ganz die Macht zu übergeben - so die provoziernde Idee des Medienwissenschaftlers Roberto Simanowski.

Triage – dieser Begriff steht symbolisch für die Dramatik der Coronakrise. Abwägen müssen, welcher Erkrankte zuerst vorsorgt wird, weil die Kapazitäten nicht für alle ausreichen? Das war für viele hierzulande eine Horrorvorstellung – auch angesichts der Bilder von überfüllten Krankenhäusern in Italien.

Welcher Mensch wird gerettet? Und welchen lässt man sterben? Das Dilemma bleibt – auch jenseits von Corona – weiter aktuell. Denn einen solchen Konflikt könnten in Zukunft Künstliche Intelligenzen herbeiführen, warnt der Medienwissenschaftler Roberto Simanowski.

Menschenwürde in Gefahr

Er sieht die Unantastbarkeit der Menschenwürde in Gefahr, wenn immer mehr Technik zum Einsatz kommt - was dann nämlich bedeute, auch Entscheidungen über einen Ernstfall mit einzuprogrammieren: etwa beim selbstfahrenden Auto oder bei autonomen Waffen.

Seit Jahren beschäftigt sich Roberto Simanowski mit den Auswirkungen digitaler Technologie auf die Demokratie und mahnt in seinen Büchern stets mehr Medienbildung und die Regulierung der sozialen Netzwerke an. Erwartbar wäre deshalb nun ein flammendes Plädoyer für die Unaufrechenbarkeit von Menschenleben gewesen, ein Vorschlag, wie man Menschenwürde gegen Algorithmen verteidigen kann.

Umso mehr überrascht, dass der Digital-Experte stattdessen fragt, ob und wie sich das "Rechtsempfinden angesichts neuer Sachlagen", die durch Technik entstehen, aktualisieren lässt.

"Souveränitätstransfer" zur Künstlichen Intelligenz

Die Frage beantwortet er mit einem Szenario, das einer Kapitulation gleich kommt. In Simanowskis Vision würde sich der Mensch selbst entmachten – durch einen "Souveränitätstransfer" hin zur Künstlichen Intelligenz, die dann Entscheidungen (über Leben und Tod) selbständig fällt. Voraussetzung dafür wäre eine entsprechende Programmierung der Computer.

Prinzipien - etwa dass Menschen in Gefahrensituationen spontan reagieren - müssten darin mit der Rechenlogik der Maschinen "versöhnt" werden. Der erhoffte Gewinn: "Die Heimkehr in ein Paradies, in dem unsere eigene Schöpfung uns das Erkennen und Entscheiden abnimmt."

Abwegig ist diese Hoffnung nicht. Das zeigt nicht nur die aktuelle Debatte darüber, wessen Leben autonom fahrende Autos zuerst verschonen sollen, wenn es zu einem Unfall kommt.

Simanowski berichtet auch vom Mitmachprojekt "Moral Machine". Forscher des "Massachusetts Institute of Technology" ließen 2016 zwei Millionen Menschen in verschiedenen Szenarien über Leben und Tod abstimmen. Was die Mehrheit für richtig hält, könnte in die Entwicklung Künstlicher Intelligenzen einfließen – egal, ob es ethisch geboten ist.

Technik als gottgleicher Problemlöser

Diese Annahme spinnt Roberto Simanowski mit Blick auf die Klimakrise weiter: Warum nicht der KI das Mandat zu einer Öko-Diktatur erteilen? Argumente dafür holt er sich bei Denkern wie Hegel oder dem Medientheoretiker Friedrich Kittler. Algorithmen wären dann der neue "Gott", die Technik doch noch der "Problemlöser".

So erschreckend diese dystopische Idee auch ist, hat sie gleichzeitig doch auch ihren Reiz. Denn Roberto Simanowski denkt den Einsatz von künstlicher Intelligenz radikal zu Ende und könnte damit indirekt das provozieren, was ihm schon immer wichtig war: Die kritische Auseinandersetzung mit Technologie.

Roberto Simanowski: "Todesalgorithmus. Das Dilemma der künstlichen Intelligenz"
Passagen Verlag, Wien 2020
144 Seiten, 17,50 Euro

Buchkritik

weitere Beiträge

Literatur

Ansteckung Seuchen in der Literatur
Historische Zeichnung eines Pestarztes aus dem 17. Jahrhundert. (Getty Images / DEA Picture Library / De AgostiniEditorial)

Seuchen überfordern den Verstand. Je massenhafter und tödlicher die Epidemie, desto verzweifelter der Versuch, ihr die Stirn zu bieten. Dann werden sie zur Prüfung, zum Strafgericht oder Selbstverrat - oder zur Erfindung, die zu leugnen ist.Mehr

weitere Beiträge

Entdecken Sie Deutschlandfunk Kultur