Seit 00:05 Uhr Neue Musik

Dienstag, 21.05.2019
 
Seit 00:05 Uhr Neue Musik

Lesart | Beitrag vom 12.01.2019

Mensch und MaschineOhne Bewusstsein keine Intelligenz

Markus Gabriel im Gespräch mit Christian Rabhansl

Beitrag hören Podcast abonnieren
Blick über die Schulter eines Mannes auf einen humanoiden Roboter während der Futurapolis-Messe in Toulouse 2018. (abaca)
Die Maschine mag schneller denken als wir. Ob das Denken selbst aber lohnt, das wissen nur wir. (abaca)

Wie intelligent sind die KIs wirklich? Der Philosoph und Autor Markus Gabriel hält gerade die Imperfektion des Menschen für seine evolutionäre Stärke. Was aber, wenn wir uns Orwell'sche Welten bauen – und das auch noch gut finden?

Christian Rabhansl: Es gibt wahrscheinlich kein Spiel auf der Welt, das so komplex ist und so viele Varianten bietet wie das Brettspiel Go aus China. Dagegen ist Schach Kindergarten. Go ist die Königsdisziplin. Allerdings hat der Mensch vor knapp drei Jahren die Krone abgeben müssen. Da ist nämlich der menschliche Go-Weltmeister von einer Software besiegt worden. Für KI -Forscher aus der ganzen Welt war das deshalb ein Meilenstein auf dem Weg zu einer echten elektronischen Intelligenz. Der Philosoph Markus Gabriel sieht das anders, der sagt: Nein, es ist Unsinn, eine KI für intelligent zu halten. Das lese ich in seinem Buch "Der Sinn des Denkens". Mit diesem Buch schließt Markus Gabriel seine Trilogie zum Neuen Realismus ab.

Herr Gabriel, wenn eine KI sogar etwas so Komplexes wie das Go-Spielen gewinnen kann, warum soll es dann Unsinn sein, von Intelligenz zu sprechen?

Gabriel: Weil das Alpha-Go-System in Wirklichkeit überhaupt gar nicht am Spiel teilnimmt. Der Einzige, der dort antritt zum Spielen, ist der menschliche Go-Spieler, der sich in einer Mensch-Maschine-Interaktion der Maschine bedient, um ein bestimmtes Ziel zu erreichen, nämlich Go zu spielen.

Unsere Dummheit macht uns schlau

Rabhansl: KI ist letztlich reine Logik, das schreiben Sie selbst, und wir Menschen sind doch sehr stolz auf unser logisches Denken, also warum ist das nicht das Gleiche?

Gabriel: Weil wir genau genommen nicht etwa logisch denken. Das heißt, die Art und Weise, wie wir denken, besteht ja darin, dass wir häufig auch logische Fehler begehen. Das ist übrigens unsere evolutionäre Stärke, dass wir nicht perfekte logische Maschinen sind, sondern emotional abweichen und nur auf diese Weise überhaupt Relevanzkriterien in unser Leben bringen können. Die Logik ist eine normative Disziplin, die beschreibt, wie wir unter idealisierten Bedingungen denken sollten. So denken wir aber nicht.

Nahaufnahme des Gesichts von Sophia, einem humanoiden Roboter des Unternehmens Hanson Robotics, mit einem zwinkernden Auge und hochgezogenen Mundwinkeln. (TASS)Wer ist hier doof? Künstliche Intelligenzen, wie etwa der humanoide Roboter "Sophia" von Hanson Robotics haben (noch) kein Bewusstsein. (TASS)

Rabhansl: Das heißt, gerade unsere Dummheit ist quasi das, was unsere Intelligenz ausmacht?

Gabriel: Richtig. Unsere Abweichung von einem Ideal der Rationalität ist der Quotient unserer Intelligenz. Das heißt, ein IQ-Test misst, wenn man so will, gerade das Gegenteil von Intelligenz. Es könnte ja zum Beispiel intelligent sein, gar nicht am IQ-Test teilzunehmen.

Fehler sind Freiheit

Rabhansl: Das ist auch ein netter Gedanke. Sie argumentieren in Ihrem Buch sogar, dass wir als geistige Lebewesen unsere Freiheit überhaupt erst dadurch erlangen, dass unser Denken fehleranfällig ist. Wie meinen Sie das?

Gabriel: Frei sind wir ja immer im Licht der Möglichkeit, dass wir auch anders handeln könnten. Freiheit hat ja etwas damit zu tun, dass wir von Normen abweichen können. Jemand sagt uns, was wir tun sollen, und wir tun es einfach nicht, sondern zum Beispiel etwas ganz anderes. Das heißt, die Normabweichung ist die Manifestation unserer Freiheit. Ohne diese Abweichung, ohne den Bruch der Regel gäbe es gar keine Freiheit. Das heißt, unsere Fehler sind der Ort, an dem sich unsere Freiheit manifestiert.

Rabhansl: Das hieße, eine Maschine kann zwar einen einzelnen Denkvorgang im Zweifelsfall tatsächlich besser als wir, aber sie kann eben nicht darüber nachdenken, ob das überhaupt der richtige Denkvorgang ist?

Gabriel: Ganz genau. Weil die Maschine in gewisser Weise nicht den Normen untersteht, denen wir unterstehen. Das heißt, eine Maschine kann zum Beispiel kaputtgehen oder nicht aufgeladen sein. Aber eine Maschine kann keine Fehler machen, weil es für die Maschine gar keinen Sinn hat, zwischen Fehler und Nicht-Fehler zu unterscheiden. Den Sinn des Regelfolgens, also des sinnvollen Befolgens der Regeln im menschlichen Leben, dieser Sinn kommt daher, dass wir Lebewesen sind. Da hatte der Philosoph Ludwig Wittgenstein ganz recht, wenn er darauf hingewiesen hat, dass unser Denken Teil unserer Lebensform ist.

Denken – unser sechster Sinn

Rabhansl: Um zu verstehen, wie Sie das meinen, müssen wir vielleicht auch verstehen, was Sie überhaupt unter Denken verstehen. Das ist ja ein großer Teil Ihres Buches. Und er ist auch schon in dem Titel versteckt: "Der Sinn des Denkens". Das ist ja eine doppeldeutige Formulierung, denn Sie meinen damit tatsächlich, dass das Denken ein menschlicher Sinn ist, genauso wie das Schmecken, das Hören, das Sehen, ein sechster Sinn. Wie meinen Sie das?

Gabriel: Unser Denken ist ja eine fehleranfällige Kontaktaufnahme mit etwas Wirklichem. Ich kann zum Beispiel jetzt an Angela Merkel denken und mich fragen, wo sie ist. Zum Beispiel in Berlin, würde ich jetzt vermuten, einfach mal so. Aber vielleicht ist sie gar nicht in Berlin, sondern in Aachen oder in Paris – was weiß ich schon. Ich kann das jetzt also vermuten, indem ich über Angela Merkel nachdenke. Genauso kann ich nachdenken über den besten Zug in einer anstehenden Schachpartie und mich täuschen darin, was der beste Zug ist. Das heißt, überall dort, wo wir eine fehleranfällige Kontaktaufnahme mit etwas haben, was nicht identisch mit uns ist, zum Beispiel einem Schachspiel oder Angela Merkel, dort haben wir einen Sinn. Und deswegen ist das Denken, das wir auch verwenden in der Mathematik oder Physik oder unter ganz alltäglichen Betriebsbedingungen genauso ein Sinn wie unser Sehen.

Rabhansl: Beim Sehen, da sehe ich einen Gegenstand, beim Tasten erspüre ich Gegenstände, beim Hören nehme ich Schallwellen wahr. Wenn ich also jetzt Gedanken lediglich erfasse, meinen Sie damit, dass die Gedanken wie ganz reale Dinge da draußen im Raum existieren?

Gabriel: Ganz genau. Die sind sogar, wenn man so will, realer als die Dinge, die ich sehe. Das ist eigentlich der Witz der gesamten philosophischen Tradition seit Platon und Aristoteles, dass sie uns darauf hingewiesen hat, dass unsere Gedanken in einem bestimmten Sinn wirklicher sind als die Gegenstände der anderen Sinnesmodalitäten.

Gedanken sind ewig

Rabhansl: Wenn die Gedanken aber im Raum existieren, auch außerhalb meines Kopfes, wie ist es dann möglich, dass wir uns gerade über Gedanken austauschen? Sie sitzen in Bonn im Studio, ich in Berlin. Alle, die uns zuhören, sind quer durch die Republik verteilt. Wie kann ein Gedanke, der wie ein Ding existiert, gleichzeitig im Raum vervielfacht und erfasst werden?

Gabriel: Weil Gedanken ewig sind. Das heißt jetzt das Folgende: Gedanken bestehen unabhängig davon, dass sie jemand von uns erfasst. Deswegen können wir denselben Gedanken erfassen. Wir können zum Beispiel alle denselben Gedanken denken, dass Angela Merkel derzeit Bundeskanzlerin Deutschlands ist. Dieser Gedanke, dass der wahr oder falsch ist, hängt ja nicht davon ab, dass ich ihn glaube oder Sie ihn glauben oder wir alle ihn glauben, sondern dieser Gedanke ist, wie man so sagt, objektiv wahr. Und das gilt für jeden Gedanken. Ein objektiv wahrer Gedanke heißt in der Philosophie eine Tatsache. Und die Wissenschaften, alle, die Physik, Mathematik, welche auch immer, und auch die Künstliche-Intelligenz-Forschung, die studieren Tatsachenzusammenhänge. Diese Tatsachen sind unabhängig von uns schon da, und wir haben einen besonders gut ausgebildeten Sinn für Tatsachen, nämlich unser Denken.

Der Philosoph und Schriftsteller Markus Gabriel in dunkler Kleidung vor einem dunklen, reflektierenden Hintergrund.Arbeitet – wie wir alle – täglich am Ende der Menschheit: Philosoph und Schriftsteller Markus Gabriel

Rabhansl: Das war jetzt nur ein kleiner Ausflug in den philosophischen Teil Ihres Buches. Wer das genauer wissen will, der findet dazu noch ein weiteres Gespräch auf deutschlandfunkkultur.de, weil Sie schon in unserer Philosophiesendung "Sein und Streit" zu Gast waren. Es ist aber auch bei diesem kleinen Ausflug schon deutlich geworden, warum Sie das Denken, so wie Sie es definieren, einer Maschine nicht zutrauen. Hängt daran die ganze Indizienkette? Ohne Denken kein Bewusstsein, ohne Bewusstsein keine echte Intelligenz.

Gabriel: Richtig, das ist tatsächlich der Argumentationsweg. Und der reicht so tief wie unsere evolutionäre Stammesgeschichte. Das heißt, das, was ich dort beschreibe, gründet zugleich in einer Naturphilosophie, das heißt, in einer Auffassung davon, was das Universum wirklich ist und wie im Universum Denken zustande kommen kann in Lebewesen.

Rabhansl: All das, worüber wir jetzt gesprochen haben, das könnte man für spitzfindige Begriffsklauberei halten. Aber Sie schreiben in Ihrem Buch, dass es nicht nur falsch sei, KI für intelligent zu halten, sondern sogar gefährlich. Das will ich genauer wissen.

KI wird uns am Ende alle unterjochen, wenn sie sich selbst erst mal zu einer Superintelligenz umprogrammiert hat und wir sie nicht einmal mehr abschalten können. So lautet ein Horrorszenario, das selbst Tech-Unternehmer aus dem Silicon Valley entwerfen. Markus Gabriel, ist das auch Ihre Sorge?

Gabriel: Nein, ganz und gar nicht. Das halte ich für reine Science-Fiction, die nichts zu tun hat mit der Wirklichkeit.

Rabhansl: Trotzdem schreiben Sie ja schon, wir müssen uns trotzdem Sorgen machen bei dem Gedanken an eine solche künstliche Superintelligenz. Warum dann doch?

Gabriel: Die Gefahr besteht darin, dass wir diese Science-Fiction-Geschichten, das heißt in diesem Fall US-amerikanische Soft Power oder Propaganda, für bare Münze halten. Und indem wir uns ein falsches Bild machen von den Geräten und sozialen Netzwerken und so weiter, mit denen wir täglich umgehen, laufen wir Gefahr, unsere Freiheit auszuliefern an Akteure, die sich hinter diesen Geräten verstecken. Das könnte, wie gesagt, der amerikanische Geheimdienst sein oder sonstige Militärmaschinen oder der chinesische Überwachungsapparat oder eben auch ganz einfach Facebook und Co.

Wir haben uns eine Techno-Religion erschaffen

Rabhansl: Am Ende könnte ja aber trotzdem eine Superintelligenz stehen. Warum, glauben Sie, ist es wahrscheinlich, dass wir als Menschen uns einer solchen Superintelligenz unterwerfen?

Gabriel: Nun, wir unterwerfen uns sehr gern der Vorstellung, dass es irgendeine Intelligenz gibt, die unserer unendlich weit überlegen ist. Das haben wir ja nun in Jahrtausenden von Monotheismus angewöhnt, zu glauben, dass es einen Gott gibt, der maximal viel intelligenter ist als wir, und dem wir uns unterwerfen sollten. Und als Ersatz für eine solche monotheistische Weltflucht, die ja nicht jeder einfach mehr glaubt, haben wir uns heute eine Techno-Religion geschaffen. Die ist allerdings mindestens genauso gefährlich wie die mittelalterliche Inquisition.

Rabhansl: Das klingt nun doch sehr dystopisch. Welches Ende prognostizieren Sie denn der Menschheit?

Gabriel: Leider treffen hier die klassischen dystopischen Prognosen von Orwell und Huxley zu. Wir bewegen uns in die "Schöne neue Welt" und haben sogar angefangen, das auch noch gutzuheißen. Das heißt, all das, was man in den klassischen Werken, "Schöne neue Welt", "1984" sich anschauen oder anlesen konnte, ist ja heute zum Beispiel in Nordkorea oder insbesondere in der Volksrepublik China schon längst Wirklichkeit geworden. Das heißt, die Digitalisierung, bei uns auch in der Form von sozialen Netzwerken oder Onlinemedien, hat genau die Konsequenzen, die Orwell und Huxley beschrieben haben, eines totalen Überwachungsapparats, dem wir uns sogar vergnüglich unterwerfen.

Arbeiten am Ende der Menschheit

Rabhansl: Wir tun das alltäglich, indem wir zum Beispiel unsere Software auf dem Handy befragen, mit welcher U-Bahn ich nachher an einen anderen Ort komme. Heißt das, selbst damit arbeite ich schon am Ende der Menschheit?

Gabriel: Tatsächlich ist das so, weil wir ja Datenspuren hinterlassen, die, so wie unsere Netzwerke derzeit gebaut sind, beobachtet werden, und zwar nicht immer von denen, von denen wir uns gern beobachten lassen wollen. Es ist ja kein Zufall, dass zum Beispiel Suchmaschinen monopolisiert wurden. Einige von uns erinnern sich vielleicht daran, dass es früher wirklich noch verschiedene Suchmaschinen auch im Westen gab. Heute googeln wir – das ist ja sogar schon zum Verb geworden. Und das ist kein Zufall, dass da ein Monopolwettbewerb auftritt, weil natürlich hinter Google noch ganz andere Auftraggeber stehen, nicht zuletzt offensichtlich die amerikanischen Geheimdienste.

Rabhansl: Haben Sie den Eindruck, dass diese Gefahren an Technikinstituten wie dem MIT oder im Silicon Valley gesehen werden?

Gabriel: Ja, ganz sicher. Die werden direkt von dort bezahlt. Also nicht nur, die haben auch andere Finanzquellen. Aber es gibt einen direkten Weg vom MIT zum Beispiel ins amerikanische Militär und auch in politische Akteure. Direkte, nachvollziehbare Wege.

Philosophie muss Denkfehler aufdecken

Rabhansl: Was also tun? Reicht es dann, als Philosophieprofessor an der Uni Bonn Bücher zu schreiben?

Gabriel: Nun, das ist, was Philosophen tun. Philosophen klären über begriffliche Zusammenhänge auf, die uns schaden können. Philosophie ist in der Moderne fundamental Ideologiekritik, das heißt, die Aufdeckung von Denkfehlern zugunsten der Verbesserung von Lebensumständen von Menschen. Also, Philosophiekämpfe – Freiheit, Gleichheit, Brüderlichkeit, wie das klassisch hieß. Heute sollten wir statt Brüderlichkeit Solidarität sagen. Das ist ja, wofür wir da sind. Das reicht natürlich nicht. Jeder muss an seiner Stelle dazu beitragen, dass wir freier werden.

Rabhansl: Ganz ehrlich aber: Wenn Sie jetzt gleich hier aus dem Studio gehen, dann benutzen Sie doch Ihre App, um wieder nach Hause zu kommen?

Gabriel: Davon ist auszugehen.

Rabhansl: Vielen Dank, Herr Gabriel! Markus Gabriel ist Professor für Erkenntnistheorie, Philosophie der Neuzeit und Gegenwart an der Uni Bonn, und er hat das Buch geschrieben "Der Sinn des Denkens". 256 Seiten für 20 Euro, bei Ullstein erschienen.

Äußerungen unserer Gesprächspartner geben deren eigene Auffassungen wieder. Deutschlandfunk Kultur macht sich Äußerungen seiner Gesprächspartner in Interviews und Diskussionen nicht zu eigen.

Lesart

Jane Gardam: "Bell und Harry" Kein zuckriges Idyll
Cover von Jane Gardam "Bell und Harry", im Hintergrund ist der Yorkshire Dales National Park zu sehen (Hanser/picture alliance/robertharding/Collage: DLF Kultur)

Die britische Bestseller-Autorin Jane Gardam lässt in "Bell und Harry" Städter und Einheimische in einsamer Gegend aufeinander treffen. Da sind Konflikte vorprogrammiert. Ein Roman für alle, die raus aufs Land wollen – und sei es nur fürs Wochenende.Mehr

Sammelband "Böse Bücher" Bücher ohne Moral
Eine Szene aus "Max und Moritz" von Wilhelm Busch aus dem Jahr 1865; hier in der Ausstellung "Wilhelm Busch - populär und unbekannt" im Oktober 2010 im Deutschen Museum für Karikatur und Zeichenkunst in Hannover (picture alliance / dpa)

"Böse Bücher" verzichten auf eine Anleitung zum moralischen Urteil. Das sagen die beiden Medienwissenschaftler Markus Krajewski und Harun Maye. Ihr gleichnamiger Band sammelt Aufsätze zur Literaturgeschichte - von De Sades "120 Tagen von Sodom" bis zu Buschs "Max und Moritz".Mehr

weitere Beiträge

Buchkritik

weitere Beiträge

Entdecken Sie Deutschlandfunk Kultur