Seit 09:05 Uhr Im Gespräch
 
  • facebook
  •  
  • twitter
  •  
  • instagram
  •  
  • spotify
 
Seit 09:05 Uhr Im Gespräch
 
 

Zeitfragen | Beitrag vom 14.09.2017

Manipulierte HaushaltshilfenWenn Nerds den Putzroboter kontrollieren

Von Jochen Dreier

Beitrag hören Podcast abonnieren
Der Roboter "Nao" mit einem Kind (CITEC/Universität Bielefeld)
Der Roboter NAO mit einem kleinen Kind. (CITEC/Universität Bielefeld)

Nie mehr putzen, nie mehr kochen. Wer hätte nicht gerne einen niedlichen Roboter als Haushaltshilfe? Doch Kritiker warnen: Viel zu leicht können Roboter manipuliert werden und dann zu einer Gefahr für die Bewohner werden.

Der Film "I, Robot" von 2004 muss sehr häufig herhalten, wenn es um Roboter geht, die für den Menschen gefährlich werden. Hier entwickeln die als Haus- und Hofsklaven gedachten Maschinen ein Bewusstsein. Im Film unterhalten sich zwei Roboter – und schnell wird klar, sie sind den Menschen nicht freundlich gesinnt.

"Well, then I guess we gonna miss the good old days?"
"What good old days?" 
"When people were killed by other people."

Roboter, die Menschen bedrohen – ziemlich genau das Angstszenario, das in der Diskussion um künstliche Intelligenz immer wieder aufkommt. 

Die Werbung für den Roboter NAO der Firma Softbank hingegen soll das genaue Gegenteil bewirken. Ein Werbefilm zeigt einen halben Meter großen humanoiden Roboter, der durch seine knubbeligen Arme und sein rundes Gesicht freundlich wirkt. Er kann 20 Sprachen verstehen, sich frei bewegen, über das Netz gesteuert werden, Gesichter erkennen und sogar kleinere Werkzeuge in den Händen halten.

Gedacht ist er für Studien- und Schulklassen, für Robotikforscher und interessierte Bastler mit dem nötigen Kleingeld. Das Ziel des Herstellers jedoch: Roboter in unser tägliches Leben einweben – als beweglicher, allwissender Butler. 

Der argentinische Hacker Lucas Apa hat unter anderem einen NAO-Roboter für Forschungen zuhause.

"Ernsthaft: Immer wenn ich schlafen gehe, mache ich ihn aus und drehe sogar noch die Kameras zur Wand."

Welche Gefahr geht von Haushaltsroboter aus?

Lucas Apa und sein Kollege Cesar Cerrudo haben guten Grund, besorgt zu sein. Nicht weil die Roboter besonders intelligent, sondern weil sie nicht besonders intelligent gesichert sind. Sie konnten sich in den NAO, wie auch in den Haushaltsroboter Alpha 2 hacken – mit erschreckenden Ergebnissen, erzählt Apa.

"Die größten zwei Gefahren dieser Haushaltsroboter sind folgende: Einmal können sie mit ihrer Umwelt interagieren. Es ist etwas anderes, als einen Computer zu hacken. Sie können sich bewegen, Objekte greifen. Und für den Alpha2 hat der Hersteller ein Werbevideo gemacht, in dem er einen Schraubendreher hält."

Lucas Apa hat die Werbung zum Anlass genommen, zu testen, ob die Fähigkeiten des kleinen Roboters auch von Hackern missbraucht werden könnten.

"Weil das Unternehmen damit also wirbt, haben wir ihn gehackt und seine Bewegungen kontrolliert. Wir zeigen wie wir mit einem Schraubendreher auf eine Tomate einstechen. Das könnte aber auch ein kleiner Hund oder ein Mensch sein."

Das Szenario, das ein Hacker einen Haushaltsroboter zum Killer macht, gehört wohl eher in das Thriller-Genre. Die zweite Sicherheitslücke dagegen ist zwar nicht direkt physisch gefährlich, könnte jedoch weitaus größeren Schaden anrichten, erklärt Apa.

"Auf der anderen Seite versuchen wir zu zeigen, wie man die Roboter als Spione einsetzen kann. Im Fall von NAO hacken wir die Kameras und Mikrofone. Damit kann man in Privatsphären eindringen, aber auch Wirtschaftsspionage betreiben."

Roboter sind leicht zu hacken

Die Wege, mit denen sie die Roboter manipulierten, waren erstaunlich einfach. Der chinesische Alpha2 läuft unter einem älteren Android-System und verschlüsselt seine Kommunikation mit Servern und W-Lan-Netzen nicht. Für die Hacker war es kein Problem, eine Man-in-the-middle-Attacke auszuführen, sich also direkt in die Kommunikation zu hacken.

Und der Roboter NAO wurde mit einer Software ausgeliefert, die eigentlich nur für die Entwicklung gedacht war. Die japanische Firma Softbank brachte ihn aber frühzeitig und ungesichert auf den Markt. Lucas Apa zeigt sich von den gefundenen Sicherheitslücken kaum überrascht:

"Das große Problem bei neuer Technologie ist, dass sie vor allem die Öffentlichkeit beeindrucken muss. Denn nur wenn die Unternehmen viele Geräte verkaufen, lohnen sich die hohen Investitionen in die Forschung. Deswegen investieren sie viel Geld in Marketing und zeigen die Roboter auf Konferenzen. Aber nirgends auf den Marketing-Seiten haben wir Sicherheitsfeature gefunden – deswegen haben wir auch nicht viel erwartet."

Wer trägt die Verantwortung für die Taten von Robotern?

Die Unternehmen reagierten auf die Erkenntnisse der Hacker abwiegelnd. Sie hätten alle diese Sicherheitslücken geschlossen. Lucas Apa und seine Kollegen haben allerdings in den Updates keine Veränderungen gefunden, die darauf hinweisen.

Gleichzeitig ist damit eine weitere Frage ungeklärt: Wer ist verantwortlich, wenn ein Roboter gehackt wird, er jemanden verletzt oder ausspioniert?

In den meisten Fällen sind die Besitzer laut AGBs selbst für alles haftbar, was der Roboter zuhause tut. Wenn ein Haushaltsroboter eine teure Vase umschmeißt, dann ist dies vielleicht noch zu verkraften, doch die Sicherheitsforscher zeigen, dass sie auch einen Industrieroboter hacken konnten. Der Roboter ist eigentlich nur ein großer Arm, der in einer Fabrik neben Menschen arbeitet, dort schweißt oder schwere Lasten trägt.

Hier könnte eine ganze Serie von Produkten zerstört, Produktionen lahmgelegt - und wirklich schwere Verletzungen zugefügt werden.

Könnten Hacker ganze Roboterarmeen steuern?

Erschreckender noch als die Erkenntnis, dass eine Fremdsteuerung möglich ist, ist die, dass die Unternehmen selbst dafür sorgen, dass ganze Roboterflotten übernommen werden könnten, erklärt Apa.

"Selbst wenn du der Besitzer bist, die Hersteller haben immer noch Zugriff, eine Möglichkeit der Kontrolle. Wenn also das Unternehmen selbst gehackt wird, dann könnte man gleich alle Roboter auf einmal steuern."

Ein Gerät, das ans Netz angeschlossen ist und nicht von Anfang an gesichert ist, kann und wird gehackt werden. Die momentan einzige Antwort der Unternehmen auf diese Gefahr ist: Alles nicht so schlimm, schaut wie niedlich und praktisch die Roboter sind.

Wie beispielsweise Pepper, die große Schwester von NAO, die in Japan schon Kunden in Geschäften betreut und viele ältere Menschen zuhause als Gesprächspartner schätzen. Ein freundlicher Roboter – mit den gleichen schweren Sicherheitslücken.

(mw)

Mehr zum Thema

Roboter als Grundschullehrer - "Die Kinder würden ihn gerne mal umarmen"
(Deutschlandfunk Kultur, Studio 9, 14.02.2017)

Künstliche Intelligenz - Wie Roboter den Menschen verstehen lernen
(Deutschlandfunk Kultur, Zeitfragen, 02.02.2017)

Kinderzimmer - Wenn der Roboter die Gute-Nacht-Geschichte vorliest
(Deutschlandfunk Kultur, Interview, 23.12.2016)

Zeitfragen

Science-O-MatWie Parteien zur Wissenschaft stehen
Eine Frau steht vor einer Bildtafel mit Hologrammen, die verschiedene Stufen in der Evolution des Menschen zeigen. (picture alliance / dpa / Marijan Murat)

Sollen Antibiotika in der Massentierhaltung weiter eingesetzt werden? Dürfen Dieselfahrzeuge in Innenstädten fahren, wenn die Grenzwerte überschritten sind? Welche Partei vertritt da welche Meinung? Das kann jeder testen - mit dem Science-O-Mat. Mehr

weitere Beiträge

Das könnte sie auch interessieren

Entdecken Sie Deutschlandfunk Kultur