Im Umgang mit neuen, intelligenten Technologien sollten Nutzer nicht passiv bleiben. Sie müssten vielmehr lernen, mit den Technologien zu kommunizieren und zu interagieren.

Das fordert Michael Herczeg, Gründer und Leiter des Instituts für Multimediale und Interaktive Systeme (IMIS-Institut) an der Universität Lübeck, im Deutschlandradio Kultur.

Dafür benötige jeder Einzelne mehr Kompetenz und werde stärker gefordert.

Als Beispiele für solche Technologien, die unseren Alltag längst mitbestimmten, nannte der Informatiker Börsensysteme, die automatisch in Mikrosekunden Finanzprodukte kauften und verkauften. In Häusern werde zunehmend die Wasserversorgung, das Klima und die Beleuchtung von Maschinen gemanagt. Und in Kliniken kämen immer häufiger medizinische Roboter zum Einsatz. "Das ist längst Wirklichkeit", sagte Herczeg.

Angesichts dieser Entwicklung benötige man einen neuen gesetzlichen Rahmen. Das sei Teil des Prozesses der Kultivierung einer solchen Technologie. Der Gesetzgeber müsse in den "Kultivierungsprozess" mit einbezogen werden.

Der Informatiker warnte davor, beispielsweise beim automatisierten Fahren die Risiken auf die Bevölkerung zu verlagern, während die Profite bei den großen Unternehmen blieben.

Liane von Billerbeck: Mensch und Maschine verschmelzen immer mehr. Schön. Maschinen helfen uns, sie machen das Leben bequemer. Doch wohin führt das? Entscheiden am Ende sie und nicht mehr wir. Vieles wird da zu wenig hinterfragt. Brauchen wir als "Aus"-Knöpfe in der Entwicklung zum Mensch-Maschine-Konglomerat, damit wir die Oberhoheit behalten?

Darüber wollen wir reden und Thesen aufgreifen aus dem neuen Buch von Yuval Harari, dem israelischen Historiker, das morgen hier auf Deutsch erscheint und "Homo deus" heißt. Er beschreibt also die Entwicklung zum quasi göttlichen Menschen mit Hilfe von Maschinen. Und wir wollen das heute tun mit Michael Herczeg, dem Gründer und Leiter des Instituts für Multimediale und Interaktive Systeme an der Universität Lübeck. Schönen guten Morgen!

Michael Herczeg: Guten Morgen, Frau von Billerbeck!

von Billerbeck: Wer denkt, Maschinen werden uns Arbeit abnehmen, dem geben Sie Paroli. Sie sagen, wir brauchen nicht weniger, sondern mehr Können, um mit solcher künstlicher Intelligenz umzugehen. Wie das? Ist doch alles so leicht zu bedienen.

Herczeg: Ja, könnte man meinen auf den ersten Blick. Aber im Gegensatz zu den meisten Technologien, die wir heute haben, müssen wir davon ausgehen, dass die neueren, nennen wir sie ruhig intelligentere Technologien, sich an uns und Situationen anpassen werden. Das heißt nichts anderes, als dass sie eben auch nur bedingt vorher testbar sind. Also müssen unsere Nutzer mit diesen Systemen in irgendeiner geeigneten Weise dann auch kommunizieren und interagieren, auch deren Reaktion einschätzen und letztlich bewerten.

Und das heißt nichts anderes, als dass die Nutzer letztlich dann auch die Verantwortung tragen, wenn sie solche Systeme erst kaufen, einsetzen und dann in diesem kurz beschriebenen Sinne dann auch dirigieren. Und um das zu leisten, müssen wir davon ausgehen, dass wir ein höheres und eben nicht ein geringeres Maß an Kompetenz brauchen. Insofern werden wir in vielerlei Hinsicht stärker gefordert sein.

von Billerbeck: Nun gibt es ja solche Entwicklungen schon, denken wir nur an das fast autonom fahrende Auto. Da ist man dieser Entwicklung ja schon recht nahe. Da hat der Mensch die Kontrolle an eine Maschine abgegeben. Wir kennen diese Entwicklung, wir kennen auch diesen Versuch der Zeitschrift "Wired", die also sich da reingehackt haben. Das sind ja auch alles noch so andere Dinge. Wo ist denn noch diese Kontrollabgabe des Menschen an die intelligenten Maschinen längst Wirklichkeit oder gar Alltag.

Herczeg: Ja, oft passiert das ja unmerklich. Denken wir heute beispielsweise an Börsensysteme, die automatisch im Mikrosekundenbereich Finanzprodukte kaufen und verkaufen. Oder mobile Geräte, die wir alle in unseren Taschen tragen, die über Dutzende von Apps ständig senden und empfangen – wir wissen nicht so genau, was. Häuser, die zunehmend Klima, Licht, Energie managen. Oder auch in Kliniken, wo beispielsweise medizinische Roboter in der Strahlentherapie oder Chirurgie. Das ist längst Wirklichkeit, viele weitere ließen sich aufzählen.

Und es stehen natürlich einige Ideen und mehr als Ideen parat. Denken wir nur an intelligente mobile häusliche Überwachungssysteme zur Überwachung unseres Gesundheitszustands. Ideen zu Pflegeunterstützungssystemen, die vielleicht Essen oder Medikation verabreichen können. Persönliche Assistenten und Bots, die in unserem Sinne, hoffentlich in unserem Sinne kommunizieren, Termine abstimmen, womöglich Meinungen äußern, Freundeslisten managen und so weiter. Also wir haben schon vieles, und – ja, es steht einiges parat, und damit werden wir uns auseinandersetzen müssen.

von Billerbeck: Sie beschreiben das also, es ist einerseits ja ganz angenehm, andererseits hat es auch immer was Gruseliges. Das heißt, um Sie zu zitieren, wir brauchen also mehr Fähigkeiten. Wer ist da gefordert, diesen Spagat hinzukriegen zwischen der Nutzung dieser Möglichkeiten und auch dem Aufbau der Fähigkeiten für die Nutzer?

Herczeg: Vielleicht nur kurz zu den Fähigkeiten selbst. Was sind das denn für Fähigkeiten, die wir brauchen? Wir haben natürlich durch diese Automationssysteme immer weniger Bedarf, selbst zu handeln. Was wir aber machen müssen, ist Vorgaben geben, Regeln definieren, diese System überwachen. Und das ist vor allem das, was ich meine, mit zunehmender Entscheidungs- und Delegationskompetenz also weniger Handlungs-, mehr Entscheidungs- und Delegationskompetenz. Und diese Verantwortung werden wir nie los, und insofern muss man tatsächlich fragen, wer kümmert sich denn drum, dass wir diese Verantwortung auch realistisch tragen können?

Und genau da ist natürlich der Gesetzgeber, der Staat gemeint, jetzt zunächst mal Parlamente, Regierungen gefragt, um solche Entwicklungen realistisch wahrzunehmen, die Konsequenzen auf Individuen, auf soziale Strukturen, meinetwegen Familie oder Gesellschaft abzuschätzen und dann entsprechend schauen, was sind die Konsequenzen, die man daraus ableiten kann oder muss, auch vor allem Gefahren und Bedrohungen. Und dafür brauchen wir Gesetze, auch neue, überarbeitete Gesetze. Und wenn man so will, geht es nicht einfach hier um Regeln, sondern das Schaffen dieser gesetzlichen Rahmen, dieser neuen Rahmen, ist ein Prozess und ein Teil der Kultivierung einer solchen Technologie, und solche Technologien kommen, auch wenn es uns manchmal so erscheint, ja nicht ruckartig, sondern werden mit Bedacht hoffentlich über Jahrzehnte entwickelt und bewältigt. Ich würde hier wirklich auch von einem Kultivierungsprozess sprechen, der selbstverständlich auch den Gesetzgeber mit einbezieht.

von Billerbeck: "Kultivierung der Maschinen" ist ein schöner Ausdruck. Das EU-Parlament diskutiert ja gerade über Regelungen. Da geht es noch um Roboter, also auch zum Beispiel, wenn die Fehler machen, was die für Daten sammeln et cetera. Trotzdem bleibt ja so ein Restrisiko, und die Geschichte zeigt uns ja auch, was einmal da ist, daran gewöhnen sich die Leute, und das lässt sich gar nicht mehr zurücknehmen. Man kann also nicht beschließen, ich lass das nicht in mein Leben. Man kommt fast nicht drum rum. Meinen Sie, das klappt tatsächlich, dass wir da konsequenter und kompetenter werden und diese intelligenten Maschinen doch beherrschen?

Herczeg: Ich würde mal so sagen: Es bleibt uns gar nichts anderes übrig. Deus ex machina – den Geist haben wir längst aus der Flasche gelassen. Und es wäre unrealistisch anzunehmen, dass wir ihn dorthin zurück bekommen. Also müssen wir diesen Geist domestizieren. Das haben wir in der Menschheitsgeschichte mit vielen schwierigen Dingen getan. Wenn man ganz weit zurückdenkt an die Domestizierung des Feuers – heute müssen wir Bits und Bytes und Computer eben in eine Form bringen, die uns vernünftig dient. Aber wir dürfen eben nicht vergessen, dass es Zeit braucht. Fürs Feuer haben wir bald zwei Millionen Jahre gebraucht, bis wir es im Griff hatten.

von Billerbeck: So lange dürfen wir jetzt nicht mehr brauchen.

Herczeg: Die industrielle Revolution waren auch 200 Jahre. Und jetzt haben wir diesen neuen Geist aus der Flasche, der ist jetzt, sagen wir mal, wenn man das moderne Internet heute nimmt, vielleicht 20 Jahre alt. Insofern ist es auch nicht ganz verwunderlich, dass neben diesem schönen Nutzen, über den wir uns freuen, den Komfort, den das bringt, auch viel Ratlosigkeit und Verunsicherung haben. Und ich denke, das, dieser Kultivierungsprozess ist etwas ganz Natürliches in einer Gesellschaft in einer technologischen Entwicklung.

Es wird gar nicht anders gehen, als diese Kompetenz aufzubauen, institutionell – Schule, Hochschule – aber natürlich auch in Eigeninitiative. Und dann glaube ich, wird diese, nennen wir es ruhig Angst, die damit immer wieder verbunden ist, auch einer informierten Situation weichen, vielleicht noch Verunsicherung sein, aber ich denke, das lässt sich bewältigen. Was nicht passieren darf, und die Sorge habe ich jetzt eben, wenn man zum Beispiel die neue Gesetzgebung zum autonomen Fahren, zu Assistenzsystemen sieht, dass die Risiken, die wir haben, die wir sehen, eben eher auf die breite Bevölkerung verlagert werden, während die potenziellen Profite bei den großen Anbietern und Unternehmen liegen.

von Billerbeck: Michael Herczeg war das. Das Thema können wir, glaube ich, nicht mehr zu Ende bringen.

Herczeg: Das klafft natürlich etwas auseinander. Das ist das, was ich sagen wollte.

von Billerbeck: Danke, Herr Herczeg, für Ihre Einschätzungen. Die Kultivierung der Maschinen. Wir müssen lernen und die Kompetenzen erwerben. Michael Herczeg war das, der Leiter des Instituts für Multimediale und Interaktive Systeme an der Uni Lübeck.

Höchste Zeit für Robotergesetze? Hören Sie dazu auch den Beitrag von Jeanne Rubner.

Der Rechtsausschuss des Europaparlament will den Umgang mit Robotern regeln. Insbesondere sollen die Haftung bei Unfällen und das Sammeln von Daten reguliert werden. Über einen entsprechenden Bericht debattiert heute das Parlament in Straßburg.

Audio Player