Seit 14:05 Uhr Kompressor
Montag, 26.07.2021
 
Seit 14:05 Uhr Kompressor

Politisches Feuilleton | Beitrag vom 31.05.2021

Triage per SoftwareKI darf nicht über Leben und Tod entscheiden

Ein Kommentar von Peter Seele

Ein Intensivpfleger auf einer Coronastation, um ihn herum viele Geräte. (picture alliance / dpa / Kay Nietfeld)
Auch in Zukunft muss allein der Mensch – und nicht Software – über das Schicksal von Patientinnen und Patienten entscheiden, meint der Wirtschaftsethiker Peter Seele. (picture alliance / dpa / Kay Nietfeld)

Wem wird im Krankenhaus noch geholfen und wem nicht? Diese Entscheidung nennt sich im Fachjargon Triage, und künftig könnte künstliche Intelligenz weitreichenden Einfluss auf sie haben. Der Wirtschaftsethiker Peter Seele warnt davor.

Als im März 2020 die mittlerweile geschichtsträchtigen Bilder der nächtlichen Kolonne von mit Särgen beladenen Lkw im italienischen Bergamo um die Welt gingen, und die Intensivstationen an Covid-19-Leidende abweisen mussten, erhielt ich wenige Tage später an einem Freitagnachmittag die Nachricht, dass ab Montag alle Lehrveranstaltungen online abzuhalten sind.

Ich arbeite nämlich an der Universität der italienischen Schweiz in Lugano im Tessin. In manchen Studienprogrammen kommen mehr als die Hälfte der Studierenden aus Italien, insbesondere aus den grenznahen Regionen wie Como, Varese, Mailand oder eben Bergamo. Insofern war ich sehr früh und sehr heftig – gleichwohl zum Glück nur indirekt – mit der ersten Welle der Pandemie konfrontiert. Einige Studierende wollten oder mussten sich um erkrankte Familienangehörige kümmern – oder um Verstorbene.

Aus einem als Selbstverständlichkeit gewohnten Normalzustand wurde schnell die "besondere Lage", eine juristisch mildere Form des Ausnahmezustands. Es dauerte nicht lange, da zog eine Vokabel aus dem Militärischen in die Alltagssprache ein: die Triage. Sie reduziert das Drama um Leben und Tod in Ausnahmesituationen auf eine Nutzenkalkulation. Wer hat die größte Chance zu überleben? Zeitdruck und unzureichende Kapazitäten einerseits und viele Schwerstkranke andererseits zwangen Ärztinnen und Ärzte, täglich über Leben und Tod zu entscheiden.

Triage kommt einer Nutzenkalkulation gleich

Die Coronapandemie hat die Frage nach Triage wenn schon nicht neu, so aber in einer medialen Heftigkeit erneut gestellt. Als ob es mit dem moralischen Dilemma der Priorisierung nicht genug wäre, kommen die digitale Transformation und damit die technische Möglichkeit der Automatisierung von Entscheidungen auf der Grundlage großer Datenmengen hinzu. Und hier setzt der Gesetzesentwurf des Bundesgesundheitsministeriums ein, der eine durch Algorithmen gestützte Entscheidung über die vor- oder nachrangige Behandlung von Patientinnen und Patienten der Intensiv- und Notfallmedizin vorsieht.

Abonnieren Sie unseren Kulturnewsletter Weekender. Die wichtigsten Kulturdebatten und Empfehlungen der Woche. Ab jetzt immer freitags per Mail. (@ Deutschlandradio)

Triage als Extremfall algorithmisch geleiteter Entscheidungsfindung verdeutlicht das Dilemma der Delegation von Verantwortung an Systeme der künstlichen Intelligenz in extremis. Aus ethischer Sicht haben wir es dabei mit einer statistisch glattbügelnden Übersteigerung eines reduktionistisch-utilitaristischen Denkansatzes zu tun, der in letzter Konsequenz Urteile über lebenswertes Leben fällen würde.

Ethische und juristische Grundlinien wie der Gleichheitsgrundsatz, Selbstbestimmung, Recht auf Leben, Vermeidung von Eugenik oder soziale Selektion würden touchiert – oder sogar gerissen. Es droht eine datenbasierte Mechanisierung der Entscheidung über Leben oder Tod.

KI-Entscheidungen nicht einfach abnicken

In der gegenwärtigen KI-Ethik ist die Einbeziehung des Menschen in Entscheidungsprozesse zwar ein wichtiger Baustein. "Human in the loop" nennt man das. Doch es ist davor zu warnen, dass die menschliche Urteilskraft medizinisch ausgebildeten Personals lediglich zu einer juristischen oder rein haftungspolitischen Instanz verkommt.

Dies wäre etwa der Fall, wenn die Triage-Entscheidung eines Arztes am Ende nur noch das vorherige Ergebnis der künstlichen Intelligenz bestätigt würde. Man denke etwa analog an die Zustimmung von Nutzungsbedingungen im Internet a la "mit dem Nutzen des Internetangebots stimmen Sie den Geschäftsbedingungen zu".

Die ironisch-dystopische Übersteigerung dieser Entscheidungsparadoxie, die im juristischen Sinne, aber nicht im Sinne der Wahlfreiheit eine Entscheidung ist, findet sich beispielsweise in dem Roman "QualityLand" von Marc-Uwe Kling: Dort lautet die Antwort auf alle vom Computer generierten Fragen nur noch OK. Nein, Triage-Software. Das ist nicht OK.

Policy Paper "Angesichts von Triage und 'Todesalgorithmen': Ist die heutige daten-getriebene Medizin mit der Verfassung vereinbar?", verfasst von Peter Seele und anderen Wissenschaftlerinnen und Wissenschaftlern.

      (Augenschmaus / OL) (Augenschmaus / OL)Peter Seele ist Professor für Wirtschaftsethik an der Universität der italienischen Schweiz in Lugano. 2020 erschienen von ihm die Bücher "KI und die Maschinisierung des Menschen", sowie "Die Rückseite der Cloud".


Mehr zum Thema

Studie zu Triage im Klinikalltag - "Die Rechtsunsicherheit ist groß"
(Deutschlandfunk Kultur, Interview, 02.11.2020)

Das Triage-Dilemma - Die Ärzte als tragische Helden
(Deutschlandfunk Kultur, Zeitfragen, 16.04.2020)

Triage - Wen sollen Ärzte (nicht) sterben lassen?
(Deutschlandfunk Kultur, Interview, 25.03.2020)

App: Dlf Audiothek

Die neue Dlf Audiothek App ist ab sofort in den Appstores von Apple und Google zum kostenlosen Download erhältlich (Deutschlandradio)

Entdecken Sie mit der Dlf Audiothek die Vielfalt unserer drei Programme, abonnieren Sie Ihre Lieblingssendungen, wählen Sie aus Themenkanälen und machen daraus Ihr eigenes Radioprogramm.


Jetzt kostenlos herunterladen

Politisches Feuilleton

Krisenalarm im Sommer Die erschöpfte Demokratie
Ein Mann kämpft darum, ein kippendes männliches Profil zu halten.  (Imago / xGaryxWatersx 11592139)

Die frühere Nachrichtenruhe der Sommer ist dahin, beklagt die Politologin Ulrike Guérot. Heute jage ein politischer Superlativ den nächsten und die Demokratie scheint damit überfordert. Die Bürger*innen kämen nicht mehr zur Ruhe. Mehr

weitere Beiträge

Entdecken Sie Deutschlandfunk Kultur