Wissenschaftler: Computer werden niemals denken können

David Gelernter im Gespräch mit Frank Meyer · 22.06.2010
Der US-amerikanische Computerwissenschaftler David Gelernter hält es für ausgeschlossen, dass Computer jemals so wie Menschen denken können. Der grundlegende Unterschied zwischen menschlicher und künstlicher Intelligenz bestehe im Bewusstsein, erläuterte Gelernter.
Frank Meyer: Das Internet – das wächst und wächst und wächst, es wird immer komplexer, immer größer, sodass man fragen muss: Wird das Internet eines Tages anfangen, selbst zu denken, oder denkt dieses riesige System heute schon? David Gelernter hat darüber nachgedacht – ein amerikanischer Computer- und Kulturwissenschaftler, ein Historiker und Maler. Und David Gelernter ist jetzt hier bei uns im Studio. Seien Sie herzlich willkommen!

David Gelernter: Thank you!

Meyer: Herr Gelernter, sind wir schon so weit, denkt das Internet heute schon, hat es eine Form von künstlicher Intelligenz?

Gelernter: Also wir können bisher ganz sicher sagen, dass Computer noch nicht denken können. Computer sind nicht in der Lage zu denken. Es gibt sehr wohl eine Form von künstlicher Intelligenz, man kann dieses Wort zu Recht auch benutzen, aber diese künstliche Intelligenz dient uns dazu, zum Beispiel was Research angeht, was Software angeht, was auch angewandte Software angeht – also die kann uns zum Beispiel helfen, Probleme zu lösen, wo Menschen viel, viel länger brauchen würden. Sie kann uns helfen, Programme zu entwickeln, Systeme zu entwickeln, die Sachen speichern können, Systemressourcen, auch so Hilfen, die den Menschen einfach die Arbeit erleichtern. Das findet man überall im Netz. Und diese angewandte künstliche Intelligenz ist auch wirklich ein riesiger Erfolg. Aber die tiefere Frage ist ja: Können wir eine Software entwickeln, die das menschliche Gehirn ersetzen kann? Das bleibt nach wie vor eine offene Frage. Man kann nur sicher sagen, zurzeit gibt es das nicht. Weder ist ein einzelner Computer dazu in der Lage, noch viele Computer, die dann zusammengeschlossen werden oder im Internet irgendwie Netzwerke bilden. All die sind noch nicht in der Lage, das menschliche Gehirn zu ersetzen.

Meyer: Und über genau diese Frage haben Sie vor Kurzem einen langen Essay veröffentlicht in der "Frankfurter Allgemeinen Sonntagszeitung", und da haben Sie einen ganz grundsätzlichen Unterschied ausgemacht zwischen der auch theoretisch möglichen Intelligenz eines Computers oder eines Computernetzwerks wie dem Internet und der menschlichen Intelligenz auf der anderen Seite. Was ist denn für Sie im Kern der grundsätzliche Unterschied zwischen diesen beiden, ich sag mal, Intelligenzformen?

Gelernter: Der wirklich fundamentale Unterschied besteht in dem Bewusstsein. Der Mensch hat ein Bewusstsein, er hat auch ein Bewusstsein von sich selbst. Er ist in der Lage, Gefühle auszudrücken, er kann sich erinnern. Ein Mensch hat Emotionen. Eine Maschine hat kein Bewusstsein. Ich kann keine Software herunterladen, die es ermöglicht, Bewusstsein zu entwickeln und das kann, was einem Menschen bewusst ist. Was eine Maschine nicht hat, ist das, was ich eine interne mentale Landschaft nenne. Zum Beispiel können wir Dinge visualisieren, wir können uns einen Berg vorstellen, wir können uns ein Auto vorstellen, und wir können, wenn wir an einen Menschen denken, uns auch diesen Menschen visualisieren mithilfe unseres Gedächtnisses. Und das ist etwas, was der Mensch kann, er hat diese Möglichkeit des Bewusstseins und der Vorstellung und diese inneren Landschaften zu visualisieren. Und eine Maschine ist dazu nicht in der Lage. Es gibt überhaupt keine digitalen Speichermedien, die bisher dazu in der Lage wären, ein Bewusstsein zu entwickeln, wie wir es beim Menschen verstehen.

Meyer: Herr Gelernter, Sie haben sich schon einmal sehr als Visionär bewährt, als Sie 1991 das Internet vorhergesagt haben oder beschrieben haben schon. Deswegen würde ich gerne mit Ihnen in die Zukunft schauen: Wenn Sie sagen, also die große Einschränkung ist, dass Computer kein Bewusstsein haben, ist denn nicht vorstellbar, dass die Softwareentwicklung so weit geht, die Computertechnik so weit geht, dass Computer Bewusstsein entwickeln?

Gelernter: Ich denke, ich muss eins hier ein bisschen klarstellen. Also die Struktur für das Internet, die bestand eigentlich schon 1983, insofern kann ich mir das nicht zuschreiben, dass 1991, wie das einige getan haben durch mein Buch "Mirror Worlds", dass ich das Internet vorausgesagt habe. Es ist natürlich immer attraktiv zu sagen, alles ist möglich, aber so wie ein digitaler Computer, so wie ich ihn verstehe, kann da überhaupt kein Bewusstsein sein. Also selbst wenn man davon ausgeht, dass vielleicht eine Maschine eines Tages mal in der Lage ist, so etwas wie ein Bewusstsein zu entwickeln, dann wird das auf keinen Fall ein digitaler Computer sein. Das halte ich für niemals möglich. Es wird niemals möglich sein, sich eine Software herunterzuladen – sei es auf einen Computer, sei es auf das iPhone – eine Software, die Bewusstsein entwickelt oder die Bewusstsein schafft oder das vermittelt. Und da berufe ich mich auf John Searle, einen Gedächtnisforscher. Also wenn man von einem wissenschaftlich-konservativen Standpunkt ausgeht, dann sagt man, das Bewusstsein gibt es nur beim Menschen – oder bei Tieren, die dem Menschen ähneln. Also damit meine ich, einem Pferd oder einem Hund traut man ein gewisses Bewusstsein zu, weniger als einem Wurm oder einer Bakterie oder anderen Insekten. Und dieses Bewusstsein ist letztlich eine chemisch-physische Struktur des Gehirns. Als Beispiel nimmt man immer die Fotosynthese – zum Beispiel grüne Blätter oder Pflanzen, die mit Sonnenenergie sich aufladen und das wiederum in Energie verwandeln, um selber zu leben. Das kann man sich bei einem iPhone nun wirklich nicht vorstellen, dass da eine Form von Fotosynthese stattfindet und dass man da eine Software entwickelt, die fotosynthetische Eigenschaften hätte. Also würde ich sagen, digitale Speichermedien haben nicht diese chemische physische Beschaffenheit, die man braucht, um Bewusstsein zu entwickeln. Natürlich könnte irgendwann mal ein Wunder geschehen, das weiß man nicht, bloß das wäre dann anders zusammengesetzt.

Meyer: Deutschlandradio Kultur, wir sind im Gespräch mit dem Computerwissenschaftler David Gelernter über das Denken von Menschen und von Maschinen. Und was Sie gerade gesagt haben, dass Computer im Prinzip die falsche Materie oder, wenn man es anders sagt, die falschen Körper haben, um denken zu können, erinnert mich daran, dass in verschiedenen Wissensdisziplinen in den letzten Jahren das Konzept Embodiment auf dem Vormarsch ist, also die Vorstellung, unser Gehirn steckt in einem lebendigen Organismus, also in unserem Körper, und wir können unseren Geist nur im Zusammenhang mit unserem Körper wirklich begreifen. Kann auch deshalb der Computer eben nie denken lernen, weil er keinen Körper hat?

Gelernter: Ja, das ist ein sehr, sehr wichtiger Punkt, den Sie da gerade genannt haben, weil da muss man zwischen zwei Dingen wirklich unterscheiden. Also nehmen wir mal an, wir vernachlässigen jetzt den Körper und konzentrieren uns wirklich nur noch auf das Gehirn, dann ist immer noch kein digitaler Computer in der Lage, so zu denken, wie man mit seinem Körper denkt, weil meiner Meinung nach ist es so, dass der Körper und das Gehirn erst das menschliche Denken insgesamt ermöglichen. Und diese Strukturen sind einfach verschieden. Was ganz wichtig ist und wofür wir den Körper unbedingt brauchen, das sind eben die Gefühle, das sind eben die Emotionen. Und das ist ein physisches Erleben, was wir da haben, das ist ein Zusammenspiel zwischen Körper und Geist, was dieses physische Erleben und die Emotionen erst möglich macht. Und das wiederum halte ich für sehr unwahrscheinlich, dass da ein digitales Speichermedium wie zum Beispiel ein Computer dazu in der Lage wäre.

Meyer: Wenn man darüber nachdenkt, welches Bewusstsein Maschinen haben können, ob sie es haben können, landet man vielleicht auch bei der Frage: Hat ein Computer vielleicht auch eine Seele, ausgehend von einer Alltagsbeobachtung wie zum Beispiel der: Man hat einen immer zuverlässigen Computer, aber in dem Moment, wo man mit einem Freund davorsteht und dem erzählt, ich will mir jetzt einen neuen Computer kaufen, der alte tut es nicht mehr, funktioniert dieser alte Computer auf einmal nicht mehr, was viele beobachtet haben. Also haben Maschinen, hat ein Computer eine Seele, Herr Gelernter?

Gelernter: Nun ja, also ob Maschinen eine Seele haben, das ist natürlich eine sehr faszinierende Vorstellung oder Proposition, aber ich glaube, dass Maschinen also noch nicht so diese Software da letztendlich haben. Und wenn etwas schiefgeht, wenn ich zum Beispiel eine Demo veranstalte, dann ist es doch meist so, dass die Software versagt hat oder dass die Maschine in dem Moment nicht funktioniert. Das hat aber auch ganz viel mit dem Unterschied zwischen Bewusstsein und Selbstbewusstsein zu tun. Also in dem Moment ist es wirklich so, dass ganz oft, wenn man eine Demo hält, dass dann wirklich sehr viel mehr schiefgeht als vorher, aber das hat dann doch meistens etwas mit den Menschen zu tun und mit dem Problem einer gewissen Selbstsicherheit in diesem Moment und eines gewissen Selbstbewusstseins, als dass es wirklich die Schuld der Maschine ist. Und wenn man sich dann natürlich die moralische Frage stellt – das ist eine moralische Frage –, ob ein Computer, ob eine Maschine eine Seele hat und ob eine Maschine, die eigentlich ein Es ist, irgendwann mal zum Du wird. Also was haben wir für moralische Verpflichtungen dem Es gegenüber, und was hat das Es für eine moralische Verpflichtung uns gegenüber? Das ist eine durchaus faszinierende Frage und das ist vielleicht bis zu einem gewissen Punkt möglich. Also ich will es mal ein bisschen anders beantworten, ein bisschen einfacher machen: In der jüdischen Tradition ist es eine der sieben Grundregeln des Talmuds, dass wir Tiere freundlich behandeln, dass wir mit Tieren respektvoll umgehen, weil man geht davon aus, nicht weil das Tier gewisse Rechte hat, das ist gar nicht der Punkt, aber der Punkt ist, wenn man ein Lebewesen, also ein Tier schlecht behandelt, dann neigt man auch dazu, Menschen schlecht zu behandeln. Und das ist einer der Gründe, warum es diesen Respekt vor Tieren in der jüdischen Religion gibt. Und jetzt könnte man praktisch eine Analogie aufstellen, eben auch ein Computer, eine Maschine, die uns sehr menschenähnlich geworden ist, die wir wie einen Menschen behandeln, wenn wir diese Maschine, diesen Computer dann schlecht behandeln und respektlos behandeln und auch Gewalt anwenden, dann ist es auch wiederum wahrscheinlicher, dass wir auch Menschen gegenüber wieder eher dazu neigen, Gewalt anzuwenden.

Meyer: Herr Gelernter, jetzt haben wir Sie kennengelernt als Skeptiker, ganz grundsätzlich, was die Denkfähigkeit von Maschinen angeht – ich frage mich, was das für Sie bedeutet, Sie gelten als Meister der Softwareentwicklung, eben als Computerwissenschaftler. Was bedeutet es denn für Sie, wenn Sie uns sagen, Computer werden nie denken können wie Menschen?

Gelernter: Nun, ich würde schon sagen, diese ganze Beschäftigung mit Computern und Computerwissenschaft, dass das schon sehr, sehr, sehr wichtig war, weil selbst das letztendlich, die menschlichen Hirne und das menschliche Denken, das hat es ja schon auf jeden Fall weitergebracht, weil wir ganz oft davon ausgegangen sind – wir haben es einfach mal als Hypothese aufgestellt – den Computer wie ein menschliches Gehirn in irgendeiner Form zu betrachten, hat das einfach geholfen, dass man ein ganz neues Denken über das menschliche Denken und über das menschliche Hirn erst mal ermöglicht hat. Und das war unglaublich nützlich, auch wenn es jetzt nicht unbedingt gelungen ist und meiner Meinung nach auch nicht notwendig ist, einen menschenähnliches Hirn bei digitalen Computer oder bei digitalen Speichermedien zu entwickeln. Dennoch hat uns diese künstliche Intelligenz doch sehr geholfen, weil was tut denn der Mensch? Der Mensch interessiert sich in erster Linie für sich selbst. Er hat sich immer die Fragen gestellt, wie er funktioniert, wie der menschliche Organismus funktioniert. Und seit Descartes (Anm. d. Red.: Name schwer verständlich im Hörprotokoll) hat man sich die Frage gestellt, was ist menschliches Denken, wie funktioniert das Gehirn. Und das ist ein Bestandteil der westlichen Philosophie. Und da ist einfach der Computer ein nützliches Werkzeug, uns da weiterzubringen, weil es ist durchaus möglich, noch viel bessere Software zu entwickeln, noch viel intelligentere Software zu entwickeln, zum Beispiel Software, die uns hilft, diesen enormen Datenstrom, den es jetzt gibt, einfach besser zu filtern, besser zu bewältigen, besser zu kontrollieren. Da kann eben dann Software eben helfen, den Menschen näherzukommen, ohne eben selbst eine menschenähnliche Software zu sein.

Meyer: Also die Computer werden immer intelligenter, aber sie werden nie denken wie ein Mensch. Ich danke Ihnen sehr für diese Aufklärung! David Gelernter, der Computerwissenschaftler, war bei uns. Herzlichen Dank!

Gelernter: Danke schön!

Übersetzung: Jörg Taszman