Wissenschaft noch weit weg von "Science-Fiction-Szenarios"
Marietta Schwarz im Gespräch mit Thomas Metzinger · 27.09.2012
Dass künstliche Wesen bald unsere Welt bevölkern, ist nicht sehr wahrscheinlich, sagt der Philosoph Thomas Metzinger anlässlich der Diskussion um den Film "Mensch 2.0" von Alexander Kluge. Ein Problem der Wissenschaften im Bereich der Robotik und Künstlichen Intelligenz sei es aber, dass hier oft für militärische Anwendungen geforscht werde.
O-Ton - Trailer: "Mensch 2.0 – Nehmen wir die Evolution in unsere eigene Hand? Werden die Roboter bald gescheiter sein als wir? Werden wir eins werden mit Maschinen, oder werden sie uns gar als Spezies ablösen?"
Marietta Schwarz: Stimmen aus dem Trailer zum Film "Mensch 2.0 – Die Evolution in unserer Hand", der heute bei uns in den Kinos anläuft, ein Film von Basil Gelpke und Alexander Kluge, in dem es um den technologischen Fortschritt im Bereich der künstlichen Intelligenz und der Robotik geht. In diesem Dokumentarfilm lernen wir auch Bina 48 kennen, einen künstlichen Frauenkopf, der nicht nur spricht, sondern auch Emotionen zeigt, also quasi ein Avatar einer 48-jährigen Frau, der täglich trainiert wird und dazulernt.
Man kann fasziniert oder schockiert sein oder beides zugleich von diesem Frauenkopf, zumindest lässt er schon mal erahnen, wohin die Reise der künstlichen Intelligenz geht. – Thomas Metzinger, Professor für Theoretische Philosophie an der Universität Mainz, ist Bewusstseinsforscher und beschäftigt sich mit ethischen Fragen zu künstlicher Intelligenz. Guten Morgen, Herr Metzinger.
Thomas Metzinger: Guten Morgen!
Schwarz: Herr Metzinger, nähern wir uns allmählich einer Realität, die wir aus vielen Science-Fiction-Filmen bereits kennen, dass Maschinen und Menschen im Prinzip kaum noch auseinanderzuhalten sind?
Metzinger: Das glaube ich nicht. Erstens gibt es noch viele technische Probleme zu überwinden. Außerdem hat sich gezeigt, dass Menschen gar nicht so gerne mit wirklich sehr menschenähnlichen Robotern umgehen, weil die ihnen dann unheimlich erscheinen. Da gibt es so einen bestimmten Effekt, den nennt man Uncanny Valley. Das heißt, eigentlich haben wir es lieber mit Maschinen zu tun, die in einem bestimmten Bereich unsere Probleme lösen, aber ganz gut als Maschinen zu erkennen sind.
Schwarz: Das heißt, die Maschine muss zu erkennen sein als Maschine, aber sie kann im Prinzip die menschliche Intelligenz nicht erreichen, aber doch einen großen Teil an Aufgaben erledigen, die wir vielleicht nicht mehr erledigen können?
Metzinger: Ja, und es gibt dann natürlich auch einzelne ethische Probleme, ich nenne Ihnen mal eins. Es gibt zum Beispiel solche Schmuseroboter, die schon entwickelt werden in Japan. Die Idee ist, dass demenzkranke Patienten, von denen es ja in den reichen Ländern immer mehr geben wird in den nächsten Jahrzehnten, vielleicht nicht mehr so gut mit einem klassischen Dackel umgehen können, der auch schwer zu pflegen ist, Schmutz macht, aber dass man diesen Leuten soziale Halluzinationen geben kann, wie ich das nenne, das heißt, dass die dann mit so einem robbenartigen Roboter zum Beispiel schmusen und den tatsächlich süß finden, den tatsächlich lieb finden und sich tatsächlich nicht alleine fühlen, wobei das natürlich im Gegensatz zu einem wirklichen Dackel dann eine komplette Halluzination ist. Es wäre aber billiger, zum Beispiel was die Pflegeversicherung angeht. Das ist dann zum Beispiel eine ethische Frage: Wollen wir das, alte Menschen, demente Menschen täuschen mit solchen Schmuserobotern, auch wenn die sich subjektiv dann ganz wohl damit fühlen?
Schwarz: Wir hatten gestern in der Redaktion auch eine Diskussion darüber, ob Menschen zu solchen menschähnlichen Robotern überhaupt eine Beziehung aufbauen. Das tun sie also?
Metzinger: Ja. Wir haben das ja sozusagen von der Evolution in uns eingebaut. Wenn Sie nachts auf dem Weg zur Toilette sich den Zeh stoßen an einem Schrank, schreien Sie auch den Schrank an. Wenn Ihr Computer was macht, was Sie nicht verstehen und Sie ärgert, dann sagen Sie, was spielt das Ding sich auf. Das heißt, diese Personal Stands – so nennen Philosophen das -, diese persönliche Beziehung ist etwas, was wir automatisch aufbauen. Bei magischem Denken zum Beispiel: Kinder haben das noch, die in Traumwelten leben. Aber auch unter Drogeneinfluss kann es zum Beispiel so sein, dass uns Dinge auf einmal als beseelt erscheinen.
Schwarz: Jetzt haben Sie diese ethischen Fragen angesprochen. Wann ist denn der Zeitpunkt gekommen? Können wir überhaupt da noch mithalten, mit dieser technischen Entwicklung, und wer stellt diese ethischen Fragen?
Metzinger: Na, ich selbst zum Beispiel. Es gibt ein großes Projekt, das VERE-Projekt der EU, in dem ich und ein Mitarbeiter als Ethiker angestellt sind. VERE heißt Virtual Embodiment and Robotic Re-Embodiment, und da geht es darum, dass Ich-Gefühl von Menschen dauerhaft in einen Avatar oder in Roboter zu übertragen, dass sie sozusagen nicht nur den kontrollieren oder aus seinen Augen sehen, sondern sich mit diesem Avatar identifizieren.
Und Sie können sich denken, dass es da eine ganze Reihe von ethischen Fragen gibt, und wir begleiten das als Philosophen professionell. Die wirklichen Probleme sehe ich eigentlich in ganz anderen Bereichen: zum Beispiel, dass sehr viel Fördergelder in der Robotik aus dem Militär kommen. Militärische Anwendungen, das ist ein viel konkreteres und realeres Problem.
Schwarz: Auf der einen Seite also Computer, die "menschlicher" werden. Lässt sich denn menschliche Intelligenz in Roboter transferieren und umgekehrt auch, Roboter-Intelligenz in das vielleicht versagende, zum Beispiel demenzkranke menschliche Gehirn?
Metzinger: Der Weg, in den die Entwicklung geht, ist, dass wir diese Unterscheidung zwischen künstlich und natürlich vielleicht gar nicht mehr so machen werden. Das heißt, biologische Prinzipien werden auf künstlicher Hardware angewendet, bei neuronalen Netzen oder indem man einem Roboter auch ein Selbstmodell gibt, wie wir Menschen das haben. Auf der anderen Seite ist es aber so, dass es in der hybriden Biorobotik Leute gibt, die lebende Organismen, Kakerlaken zum Beispiel, die von der Evolution erzeugt worden sind, nehmen und die dann mit Steuereinheiten versehen und die technisch kontrollieren. Das heißt, es wird wahrscheinlich in der Zukunft mehr so ein Zusammenfließen der biologischen und der technischen Evolution geben.
Schwarz: Das ist natürlich ein sehr unheimlicher Gedanke. – In welchem Zeitrahmen denken Sie denn da, in zehn Jahren, 30 Jahren, 50 Jahren?
Metzinger: Man muss einfach fragen, worum es geht. Ich glaube, wir sind Science-Fiction-Szenarios nicht sehr nahe. Trotzdem muss man darüber nachdenken. Aber in kleinen Einzelanwendungen fließt Natur und Technik schon längst zusammen, in der Bionik und in anderen Disziplinen. Das geschieht jetzt. Die eigentlich interessanten Fragen sind eher: Was lernen wir denn über unseren eigenen Geist, was lernen wir denn über die eigene menschliche Autonomie, dadurch, dass wir versuchen, autonome Roboter zu konstruieren? Aber unterm Strich: das wird alles noch lange nicht so gut funktionieren, dass es in unsere Lebenswelt eindringt.
Schwarz: Der Philosoph und Bewusstseinsforscher Thomas Metzinger im Gespräch über Menschmaschinen und Androiden. Danke für das Gespräch, Herr Metzinger.
Metzinger: Ich bedanke mich auch.
Äußerungen unserer Gesprächspartner geben deren eigene Auffassungen wieder. Deutschlandradio macht sich Äußerungen seiner Gesprächspartner in Interviews und Diskussionen nicht zu eigen.
Filmhomepage "Mensch 2.0" von Basis Gelpke und Alexander Kluge
Mehr auf dradio.de:
Überlebenskampf, Eheberatung und Aussteiger - Neue Filme: "Der Fluss war einst ein Mensch", "Wie beim ersten Mal", "Mensch 2.0", "Speed"
"Ein bisschen unheimlich" - Alexander Kluge zu seinem neuen Film "Mensch 2.0 – die Evolution in unserer Hand" *
Marietta Schwarz: Stimmen aus dem Trailer zum Film "Mensch 2.0 – Die Evolution in unserer Hand", der heute bei uns in den Kinos anläuft, ein Film von Basil Gelpke und Alexander Kluge, in dem es um den technologischen Fortschritt im Bereich der künstlichen Intelligenz und der Robotik geht. In diesem Dokumentarfilm lernen wir auch Bina 48 kennen, einen künstlichen Frauenkopf, der nicht nur spricht, sondern auch Emotionen zeigt, also quasi ein Avatar einer 48-jährigen Frau, der täglich trainiert wird und dazulernt.
Man kann fasziniert oder schockiert sein oder beides zugleich von diesem Frauenkopf, zumindest lässt er schon mal erahnen, wohin die Reise der künstlichen Intelligenz geht. – Thomas Metzinger, Professor für Theoretische Philosophie an der Universität Mainz, ist Bewusstseinsforscher und beschäftigt sich mit ethischen Fragen zu künstlicher Intelligenz. Guten Morgen, Herr Metzinger.
Thomas Metzinger: Guten Morgen!
Schwarz: Herr Metzinger, nähern wir uns allmählich einer Realität, die wir aus vielen Science-Fiction-Filmen bereits kennen, dass Maschinen und Menschen im Prinzip kaum noch auseinanderzuhalten sind?
Metzinger: Das glaube ich nicht. Erstens gibt es noch viele technische Probleme zu überwinden. Außerdem hat sich gezeigt, dass Menschen gar nicht so gerne mit wirklich sehr menschenähnlichen Robotern umgehen, weil die ihnen dann unheimlich erscheinen. Da gibt es so einen bestimmten Effekt, den nennt man Uncanny Valley. Das heißt, eigentlich haben wir es lieber mit Maschinen zu tun, die in einem bestimmten Bereich unsere Probleme lösen, aber ganz gut als Maschinen zu erkennen sind.
Schwarz: Das heißt, die Maschine muss zu erkennen sein als Maschine, aber sie kann im Prinzip die menschliche Intelligenz nicht erreichen, aber doch einen großen Teil an Aufgaben erledigen, die wir vielleicht nicht mehr erledigen können?
Metzinger: Ja, und es gibt dann natürlich auch einzelne ethische Probleme, ich nenne Ihnen mal eins. Es gibt zum Beispiel solche Schmuseroboter, die schon entwickelt werden in Japan. Die Idee ist, dass demenzkranke Patienten, von denen es ja in den reichen Ländern immer mehr geben wird in den nächsten Jahrzehnten, vielleicht nicht mehr so gut mit einem klassischen Dackel umgehen können, der auch schwer zu pflegen ist, Schmutz macht, aber dass man diesen Leuten soziale Halluzinationen geben kann, wie ich das nenne, das heißt, dass die dann mit so einem robbenartigen Roboter zum Beispiel schmusen und den tatsächlich süß finden, den tatsächlich lieb finden und sich tatsächlich nicht alleine fühlen, wobei das natürlich im Gegensatz zu einem wirklichen Dackel dann eine komplette Halluzination ist. Es wäre aber billiger, zum Beispiel was die Pflegeversicherung angeht. Das ist dann zum Beispiel eine ethische Frage: Wollen wir das, alte Menschen, demente Menschen täuschen mit solchen Schmuserobotern, auch wenn die sich subjektiv dann ganz wohl damit fühlen?
Schwarz: Wir hatten gestern in der Redaktion auch eine Diskussion darüber, ob Menschen zu solchen menschähnlichen Robotern überhaupt eine Beziehung aufbauen. Das tun sie also?
Metzinger: Ja. Wir haben das ja sozusagen von der Evolution in uns eingebaut. Wenn Sie nachts auf dem Weg zur Toilette sich den Zeh stoßen an einem Schrank, schreien Sie auch den Schrank an. Wenn Ihr Computer was macht, was Sie nicht verstehen und Sie ärgert, dann sagen Sie, was spielt das Ding sich auf. Das heißt, diese Personal Stands – so nennen Philosophen das -, diese persönliche Beziehung ist etwas, was wir automatisch aufbauen. Bei magischem Denken zum Beispiel: Kinder haben das noch, die in Traumwelten leben. Aber auch unter Drogeneinfluss kann es zum Beispiel so sein, dass uns Dinge auf einmal als beseelt erscheinen.
Schwarz: Jetzt haben Sie diese ethischen Fragen angesprochen. Wann ist denn der Zeitpunkt gekommen? Können wir überhaupt da noch mithalten, mit dieser technischen Entwicklung, und wer stellt diese ethischen Fragen?
Metzinger: Na, ich selbst zum Beispiel. Es gibt ein großes Projekt, das VERE-Projekt der EU, in dem ich und ein Mitarbeiter als Ethiker angestellt sind. VERE heißt Virtual Embodiment and Robotic Re-Embodiment, und da geht es darum, dass Ich-Gefühl von Menschen dauerhaft in einen Avatar oder in Roboter zu übertragen, dass sie sozusagen nicht nur den kontrollieren oder aus seinen Augen sehen, sondern sich mit diesem Avatar identifizieren.
Und Sie können sich denken, dass es da eine ganze Reihe von ethischen Fragen gibt, und wir begleiten das als Philosophen professionell. Die wirklichen Probleme sehe ich eigentlich in ganz anderen Bereichen: zum Beispiel, dass sehr viel Fördergelder in der Robotik aus dem Militär kommen. Militärische Anwendungen, das ist ein viel konkreteres und realeres Problem.
Schwarz: Auf der einen Seite also Computer, die "menschlicher" werden. Lässt sich denn menschliche Intelligenz in Roboter transferieren und umgekehrt auch, Roboter-Intelligenz in das vielleicht versagende, zum Beispiel demenzkranke menschliche Gehirn?
Metzinger: Der Weg, in den die Entwicklung geht, ist, dass wir diese Unterscheidung zwischen künstlich und natürlich vielleicht gar nicht mehr so machen werden. Das heißt, biologische Prinzipien werden auf künstlicher Hardware angewendet, bei neuronalen Netzen oder indem man einem Roboter auch ein Selbstmodell gibt, wie wir Menschen das haben. Auf der anderen Seite ist es aber so, dass es in der hybriden Biorobotik Leute gibt, die lebende Organismen, Kakerlaken zum Beispiel, die von der Evolution erzeugt worden sind, nehmen und die dann mit Steuereinheiten versehen und die technisch kontrollieren. Das heißt, es wird wahrscheinlich in der Zukunft mehr so ein Zusammenfließen der biologischen und der technischen Evolution geben.
Schwarz: Das ist natürlich ein sehr unheimlicher Gedanke. – In welchem Zeitrahmen denken Sie denn da, in zehn Jahren, 30 Jahren, 50 Jahren?
Metzinger: Man muss einfach fragen, worum es geht. Ich glaube, wir sind Science-Fiction-Szenarios nicht sehr nahe. Trotzdem muss man darüber nachdenken. Aber in kleinen Einzelanwendungen fließt Natur und Technik schon längst zusammen, in der Bionik und in anderen Disziplinen. Das geschieht jetzt. Die eigentlich interessanten Fragen sind eher: Was lernen wir denn über unseren eigenen Geist, was lernen wir denn über die eigene menschliche Autonomie, dadurch, dass wir versuchen, autonome Roboter zu konstruieren? Aber unterm Strich: das wird alles noch lange nicht so gut funktionieren, dass es in unsere Lebenswelt eindringt.
Schwarz: Der Philosoph und Bewusstseinsforscher Thomas Metzinger im Gespräch über Menschmaschinen und Androiden. Danke für das Gespräch, Herr Metzinger.
Metzinger: Ich bedanke mich auch.
Äußerungen unserer Gesprächspartner geben deren eigene Auffassungen wieder. Deutschlandradio macht sich Äußerungen seiner Gesprächspartner in Interviews und Diskussionen nicht zu eigen.
Filmhomepage "Mensch 2.0" von Basis Gelpke und Alexander Kluge
Mehr auf dradio.de:
Überlebenskampf, Eheberatung und Aussteiger - Neue Filme: "Der Fluss war einst ein Mensch", "Wie beim ersten Mal", "Mensch 2.0", "Speed"
"Ein bisschen unheimlich" - Alexander Kluge zu seinem neuen Film "Mensch 2.0 – die Evolution in unserer Hand" *