Seit 15:05 Uhr Interpretationen

Sonntag, 15.09.2019
 
Seit 15:05 Uhr Interpretationen

Tonart | Beitrag vom 22.05.2018

Augmented Reality in Kunst und MusikWenn Töne tanzen

Von Dennis Kastrup

Eine Frau steht in einem Museum vor einem Bild und hält ein Handy davor. (Bild: Artivive)
Augmented Reality im Kunstmuseum - eine neue App macht es möglich. (Bild: Artivive)

Klänge mit dem ganzen Körper erleben, einen Sound sehen oder als Besucher Teil einer Bühnenshow werden: Augmented Reality hält Einzug ins Musikbusiness und könnte die Branche ähnlich revolutionieren wie einst MTV.

In dem Video zu "Take on Me" von AHA sah es 1986 schon ein bisschen so aus wie in der Augmented Reality: Animierte und reale Welten vermischten sich. Der Unterschied: Damals wurden die Bilder nachbearbeitet. Heute entsteht alles in Echtzeit.

Alte, etablierte und fast schon starre Kunst kann so zum Leben erweckt werden, wie zum Beispiel mit der App "Artivive". Hält man das Smartphone vor ein Bild, fangen plötzlich Dinge an, sich zu bewegen. Sergiu Ardelean hat die App mitentwickelt.

Quasi "out-of-space"

"Wir haben schon ein paar Musiker. Zum Beispiel der Bernd Ammann in Wien. Der verwendet Artivive, um sein Album und Albumcover mit Augmented Reality zu erweitern, aber nicht nur. Sondern er hat auch eine Reihe an T-Shirts rausgebracht, die mit seinem Album verbunden sind. In seinem Album geht es um Space. Auch seine Musik ist von den Sternen inspiriert. Und auch auf dem Albumcover sieht man, dass man quasi ‚out of space‘ ist."

Spannend ist, dass beim Blick auf ein Albumcover oder T-Shirt die Augmented Reality nicht erkennbar ist. Künstler könnten also Botschaften wie einen exklusiven Bonustrack verstecken. Nur für ihre Fans. Länge und Kreativität sind dabei keine Grenzen gesetzt. Einziges Manko: Direkte Interaktion mit dem Hörer ist nicht möglich. Anders ist das bei "Marble AR". Tom Brückner hat die Software im vergangen Jahr zusammen mit Paul Wehner auf dem SXSW entwickelt.

Augmented Reality auf der Bühne

"Wir bringen Augmented Reality auf die Live-Musik-Bühne. Die Idee ist, dass man letztendlich eine zusätzliche Wahrnehmungsebene in einer Live-Show bekommt, so als ob man Teil des Musikvideos wird, das zum laufenden Track jetzt gerade passt. Wir glauben, dass das ähnlich die Live-Musik-Branche umkrempeln wird wie das MTV für die Dosenmusik getan hat."

Und das funktioniert so: Eine Künstlerin oder ein Künstler hält einen Würfel in der Hand. Dieser wird von der Software erkannt und in der Augmented Reality in eine Art leuchtenden Planeten umgewandelt, den man drehen und wenden kann. Im Raum befindet er sich auf drei verschiedene Achsen: X,Y, Z. Diesen wird jeweils ein beliebiger Effekt zugeordnet. Bewegt man sich nach vorne, wird zum Beispiel der Synthesizer verzerrt. Nach unten die Tonhöhe. Auch Lichteffekte lassen sich steuern. Die Software befindet sich aber noch in der Testphase.

"Wir arbeiten zum Beispiel jetzt mit einem Künstler zusammen. Ralf Schmid aus Freiburg. Der sitzt auf der Bühne mit zwei Steinway Flügeln und solchen Armbändern, die auch mit Technologie unterstützt werden und steuert damit letztendlich die Effekte, so dass man die Flügel gar nicht mehr wieder erkennt, weil das letztendlich dann so sphärische Geschichten sind."

Worte in dreidimensionalen Wellen

Hebt Schmid die Arme, regnet es oder ein Blitz schlägt ein. Er selbst schaut beim Spielen auf sein Smartphone, das über der Tastatur hängt. Das Publikum sieht den Handybildschirm auf einer Projektion hinter dem Klavier. Die Augmented Reality erzeugt nicht nur Klang, sondern stellt ihn außerdem bildlich dar. In dieselbe Richtung geht auch der New Yorker Hacker und Designer Zach Liebermann.


"Wenn man sich Cartoons anschaut, dann benutzen sie eine Bildsprache für Klang. Man sieht einen Charakter einen anderen schlagen und es macht ‚POW!‘. Man sieht die Worte oder Sprechblasen, also die visualisierte Sprache vom Klang. Und das interessiert mich. Wie können wir Sound darstellen und sehen?"

Liebermann arbeitet gerade an einer App, die Klang im Raum visualisiert. Er hat ein Video online gestellt, in dem seine gesprochenen Worte als dreidimensionale Wellen dargestellt werden.

Auch beim Lernen soll AR helfen

"Mit dieser speziellen App kann man den Sound im Raum aufnehmen. Wenn man sich darin bewegt, spielt man den Sound wieder ab. Man gleitet also durch den Klang hindurch. Diese Technik nennt man Granularsynthese. Dabei spielen wir das Audio wieder ab, indem wir kleine Teile des Originals benutzen."

Schreitet er mit dem Smartphone durch den Klang ist das wie ein Vor- und Zurückspulen im Raum.

Trotz all dieser Spielerei wird das klassische Musizieren natürlich nicht verschwinden. Im Gegenteil, auch hier zeichnet sich ein Trend ab: Augmented Reality hilft immer mehr beim Lernen von Instrumenten. Mit Brille ausgestattet zeigen kleine Animationen, welche Tasten gedrückt, welche Saiten gezupft werden sollen oder wie die Hand gehalten werden soll. Die Zukunft ist augmented! Zu Deutsch: vergrößert.

Tonart

weitere Beiträge

Entdecken Sie Deutschlandfunk Kultur