Dr. Irena Kulka


Instant Gain in Grace

An interactive tool fusing dance performance and visual media


Labdance [link 01]

Labdance

Kurzdarstellung

Kurzbeschreibung

Instant Gain in Grace verbindet interaktiv Bildersprache und Tanzsprache und ist zwischen Kunst und Technologieforschung angesiedelt. Instant Gain in Grace wird eine interaktive visuelle Performance-Installation sein, worin eine abstrakt-lyrische Bilderzählung über Tanzbewegungen gesteuert wird. Wirksame dramaturgische Prinzipien von Tanzaktion, Bildkomposition und Bilderfluss werden erprobt und im Echtzeit-Systemverhalten implementiert. Wir erproben exemplarische Szenarien, wie Tänzer und bildende Künstler dieses System von Bild und Aktion interaktiv besonders nutzen können.
In einer Zusammenarbeit von gestalterischen Partnern (Hyperwerk FHBB Basel) und technischen Partnern (ETH Zürich) entwickeln wir ein innovatives tragbares Körpersensorensystem, ein Bewegungsanalysemodul, sowie ein sensorengesteuertes Kompositionssystem für Visuals. Als Basis wird ein breit nutzbares und effizientes Visualisierungsframework konstruiert.
Tanzbewegungen werden von der Maschine nach einem ästhetisch und dramaturgisch relevanten Konzept interpretiert und in echtzeitgenerierte animierte Bilder (Typografie kombiniert mit Fotografie) bzw. interaktive Videoeffekte umsetzt. Die Interaktion basiert auf der tänzerischen Interpretation von diesen Bildern, das wiederum steuert den weiteren Bilderfluss.
Diese Arbeit thematisiert den Beitrag einer Technologie- und Softwareentwicklung zu einem besonderen künstlerischen Arbeitsprozess, insbesondere einer Improvisation in der Verbindung von Tanz und Bild. Ein raffiniertes Übersetzungssystem zwischen den beiden Medien (Bewegung - Bild) soll inspirierte Prozesse unterstützen. Inhaltlich wird es in der Performance jedoch um das Transzendieren eigener Codes gehen.

KünstlerInnen / AutorInnen

  • Dr. Irena Kulka, Diplomandin, Konzept, Gestaltung, Projektleitung, Hyperwerk

MitarbeiterInnen

  • Holger Junker, Doktorand Elektrotechnik Entwicklung Sensorensystem, ETHZ Elektrotechnik
  • Katherine Batliner, Studentin, Mitarbeit Videoeffekte, Hyperwerk FHBB
  • Nadja Tarnutzer, Studentin, Mitarbeit Videoeffekte , Hyperwerk FHBB
  • Martin Gernss, Informatikstudent, Visualisierungssoftware-Entwicklung, ETHZ Institut für Computersysteme
  • Dr. Emil Zeller, Informatiker, Sensordatenanalyseprogrammierung, ETHZ Institut für Computersysteme
  • Miro Tafra, Doktorand Informatik, kabellose Datenübertragung auf Aos, ETHZ Institut für Computersysteme
  • Prof. Juerg Gutknecht, technisches Coaching, Betreuung der Software-Programmierung, ETHZ Institut für Computersysteme
  • Dr. Paul Lukowicz, Betreuung der Sensordatenanalyse, Analysemethoden und Sensorsyssteme, ETHZ Elektrotechnik
  • Fabrizio Macaluso, Diplomand Cognitive Science, Mitarbeit Analyse, Universität Pisa, ETHZ Elektrotechnik

Entstehung

Schweiz, 2003

Partner / Sponsoren

ETHZ

Eingabe des Beitrags

Irena Kulka, 01.07.2003

Kategorie

  • Forschungsprojekt

Schlagworte

  • Themen:
    • Repräsentation |
    • Theater |
    • Visual Effects |
    • Wahrnehmung |
    • nonlineare Narration |
    • Körper |
    • Animation |
    • Medienkunst |
    • Tracking |
    • Performance Kunst |
    • Narrative Intelligenz |
    • Artistic Software |
    • Interaktivität |
    • Wearable Computing |
    • Mensch-Maschine-Interaktion HCI |
    • Kollaboration |
    • Abstraktion |
    • Awareness |
    • Raum |
    • Cognitive Science |
    • Biofeedback |
    • Tanz
  • Formate:
    • Montage |
    • Software |
    • 2D |
    • Performance |
    • Installation |
    • Projektion |
    • interaktiv |
    • Computergraphik |
    • Computeranimation |
    • Video
  • Technik:
    • Drahtlose Kommunikation |
    • Motion Tracking |
    • Inertial Tracking |
    • XML |
    • Gesture Recognition

Ergänzungen zur Schlagwortliste

  • Bluebottle |
  • Active Oberon System  |
  • Strongarm Technology |
  • Aos

Inhalt

Inhaltliche Beschreibung

1. Allgemeine Schwerpunkte
Das Projekt "Instant Gain in Grace" beschäftigt sich im weitesten Sinne mit interaktiven visuellen Erzählstrukturen und definiert darüber hinaus eine neue Form von interaktiver Improvisation im darstellenden Bereich. Spezifisch geht es um Butoh Tanz Improvisation, die in Kontakt mit dem echtzeitgenerierten, sensorengesteuerten Bild entwickelt wird.
1.1 Forschungsschwerpunkte
Das interaktive Instrument dafür wird von Irena Kulka mit den externen Partnern von Grund auf neu entwickelt und ist in mehrfacher Hinsicht ein Prototyp. Anhand dieses Prototyps konzipiert Irena Kulka interaktive Strategien in Hinblick auf eine dramaturgisch und performativ spannende Arbeit.
Dabei liegen die Schwerpunkte dieses Projektes einerseits in der Konstruktion des interaktiven Systems und andererseits im bewussten Einsetzen des menschlichen Eingriffs, in der Entwicklung der interaktiven Dramaturgie. Wichtig ist die Fragestellung, wie die Tanzenden die spezifischen Eigenschaften des Bildersystems performativ besonders nutzen können. Eine im Kontext vom Hyperwerkstudium relevante Frage ist, welche Interaktion von bildender Kunst und Tanz und Technologie (Software und Hardware) stattfinden muss, um ein solches System überhaupt aufzubauen. Die Fragestellung der Projektpartner hingegen liegt auf der technologischen Forschung im Bereich von Softwarearchitektur und Wearables.
Das Instrument soll als Improvisations-, Bildkompositions- und Choreografietool und als eigentliche Installation für Performances genutzt werden.
1.2 Fragestellungen
Grundsätzliche gestalterische Fragestellungen:
1) Wie können digitale Medien zu einem besonderen künstlerischen Arbeitsprozess beitragen, insbesondere Improvisation in der Verbindung von Tanz und Bild.
2) Wie soll das Übersetzungssystem zwischen den beiden Medien (Bewegung & Bild) konstruiert sein, um inspirierte Prozesse zu unterstützen?
Technisch relevante Fragestellungen (Wearables- sowie Systemarchitektur-Forschung):
3) Wie soll ein möglichst breit nutzbares Visualisierungsframework konstruiert sein?
4) Wie kann ein innovatives Wearable mit drahtlosen Bewegungssensoren unter Anwendung von besonders effizienter Technologie realisiert werden?
1.3 Technische und gestalterische Entwicklung
Gemeinsam mit technischen Partnern entwickeln wir ein Körpersensorensystem und ein sensorengesteuertes Kompositionssystem für Visuals, insbesondere digitale Bildanimation (Typografie kombiniert mit Fotografie), sowie interaktive Videoeffekte (als zweite Umsetzungsvariante). Dabei werden Tanzbewegungen von der Maschine interpretiert und in generierte animierte Bilder umsetzt. Eine offene, prozesshafte Interaktion basiert auf der tänzerischen Interpretation von diesen Bildern, das wiederum steuert den weiteren Bilderfluss in Echtzeit. Ein längerfristiger gestalterischer Prozess entsteht außerdem, indem die Tänzerin selbst neue Bilder finden, fotografisch und kompositorisch artikulieren und in das Visualisierungssystem einfügen.
2. Technisches Konzept
2.1 Prinzip
Das Prinzip beruht auf: Motion-Tracking mit kabellosen tragbaren Beschleunigungssensoren, Echtzeitstreaming von Sensordaten
Musteranalyse der Sensordaten (Hidden Markov Models). Fokus auf expressiv relevante Bewegungsparameter, Mapping von Bewegungszustandskategorien auf Emotions-Kategorien, Übersetzung in Parameter der Bild-Komposition,
Emotionsraum-Modell für ein dramaturgisch strukturiertes Verhalten des Bilderflusses.
2.2 Software
Zwei neuartige Softwaremodule, einerseits für Bewegungsanalyse, andrerseits für die Bildvisualisierung, werden in Bluebottle/Aos http://www.oberon.ethz.ch/ entwickelt. Das entsprechende Wearable wird unabhängig von diesem Projekt im Rahmen des Euro-Projektes 2WEAR entwickelt. http://www.aramis-research.ch/d/13405.html.
2.3 User Interfaces
Ein fortlaufender Bildgestaltungsprozess soll innerhalb der Bluebottle Software über ein User Interface in XML ermöglicht werden, worin die Notation der Bilder im Detail sowie die Spiel-Verhaltensmodi laufend definiert werden können.
Ein weiteres User Interface, für Echtzeitinteraktion, sind die Sensoren; diese werden aber voraussichtlich nicht zur expliziten Bildgestaltung (bewusstes Zeichnen) eingesetzt, denn von unserem Konzept her ist die Interpretation der Bewegung automatisiert. Grundsätzlich wäre es aber schon denkbar, durch bestimmte funktionalisierte Bewegungsabläufe bewusst zu zeichnen. Wie die unterschiedlichen Interaktionsweisen jeweils vom Benutzer adaptiert werden können, erfahren wir anhand des Prototyps.
3. Zielpublikum
Die im Zusammenhang mit diesem Projekt an der ETHZ entwickelte Software und Hardware bietet einen sehr allgemein nutzbaren Gestaltungsrahmen für Fotografen und visuelle Künstler und lädt zu Interaktion von visuellen Medien und Tanz ein. Die Tanzperformer können mit diesem System selbst gestalterisch wirken. Eine Benutzung durch Laien ist nicht ausgeschlossen, aber das jetzige Konzept ist optimiert für ein expressives und abstrahierendes Bewegungsverhalten.
4. Künstlerisches Konzept
4.1 Prinzip
Instant Gain in Grace wird eine interaktive visuelle Installation sein, worin eine Art von abstrakt-lyrischer Erzählung über Tanzbewegungen gesteuert wird. Dabei werden bewusst reduzierende, starke und irritierend wirkende dramaturgische Prinzipien in Aktion und Bild (digital generierte Bildkomposition sowie Steuerung des Bilderflusses) erforscht und unterstützende Prinzipien werden im Echtzeit-Systemverhalten implementiert. Im Sinn von Interaktionsforschung gehen wir auch der Frage nach, wie Tänzer und bildende Künstler dieses System in Bild und Aktion interaktiv besonders nutzen können.
Unter der Anwendung von automatisierten Strukturen versucht die Autorin gestalterisch, eine expressive-abstrahierende poetische Wahrnehmung anzuregen. Sie beschäftigt sich mit der automatisierten Interpretation jener Aspekte nonverbaler Sprachen, die dem abstrakten, lyrischen Ausdruck in Bild und Bewegung zugrunde liegen.
4.2 Interaktive Prozesse
Das Projekt umfasst mehrere Radien interaktiver Prozesse: (1) eine temporär festgelegte interaktive Kompositionsstruktur, wobei die Kompositionen und Bildabläufe Pfaden in einem abstrakten Emotionsraum folgen und durch Bewegungsparameter gesteuert und auch direkt moduliert werden. (2) die offene improvisatorische Tanzaktion mit den interaktiven Bildern (die über diese hinausgeht).
(3) Unterstützung längerer choreografisch-dramaturgischer und bildender gestalterischer Prozesse durch diesen strukturierten aber sehr frei definierbaren und ausbaubaren Spiel-Rahmen.
4.3 Gestaltung der generativen Bildanimation
Der Ausgangspunkt für das Bildmaterial ist eine spontane Imagination im Tanz, die fotografisch umgesetzt und kompositorisch über das XML Interface artikuliert wird.
Eine weitere gestalterische Ebene ist eine Systematisierung der Tanzzustände und die künstlerisch sinnvolle Konzipierung des Verhaltens der Bildabläufe in Abhängigkeit von Tanzzustand und von relevanten Bewegungsparametern.
Im weiteren erfolgt ein Schritt von dramaturgischer Arbeit mit System und Optimierung, sowohl der Struktur als auch der spezifischen Visualisierungsweise.
So analytisch die innere Struktur des Bildersystems konstruiert ist, so ist es doch eigentlich ein intuitives Vorgehen der Improvisation, das bei der Suche nach dem Bildmaterial, genauso wie im Tanz, angewandt wird. Es gibt dabei keine dringlicheren Inhalte, nur die kontemplative Wahrnehmung selbst, das Finden und Erfinden von Mustern und Kontexten. Ich möchte im heutigen Kontext diese Art von Wahrnehmung und von Kommunikation nicht missen, ich werde mich darauf verlassen können, es ist schlussendlich eine Waffe.
4.4 Navigationsprinzip, non-lineare Narration
Eine wichtige Gestaltungsfrage im Projekt ist die der Navigation durch nonverbales Material (wie Bilder oder Gefühle). Vorstellbare Modelle sind z.B.: ein assoziativ wuchernder Prozess, oder Zufallsfahrten in Pools von intuitiv verwandtem aber nicht bewusst strukturiertem Material, oder eine durch Bezüge definierte Ordnung oder noch komplexere dynamische Modelle.
4.5 Kategorisierung und Emotionsraum
Die zentrale These beim Interaktionskonzept der Autorin ist, dass es Sinn machen kann, Nonverbales nach Bedeutungen (bzw. Aspekten oder Dimensionen) zu strukturieren, also feste Bezüge von Bewegungsparametern, Emotionsraum und Bildparametern in den Kern des Systems zu stellen. Auf dem Prinzip baut sie eine Navigation auf, eine dramaturgische Navigation durch Gefühlsschattierungen.
Die Bilderkategorien werden im Vergleich zu der unendlichen Intuition des Tanzens ein starres Gitter darstellen, welches aber aus verschiedenen Perspektiven genutzt und bespielt werden kann, wie ein Requisit, anhand dessen die Performerin ihre Position einnimmt und artikuliert, ohne sich davon absorbieren zu lassen
4.6 Gestaltung Grafik
Für die grafische Umsetzung liegen vier Varianten von Bildmedium vor, welche exemplarisch ausgeführt werden, um den möglichen Umgang mit Bild und erzählerischer Dramaturgie im Rahmen dieses Tools prototypisch zu demonstrieren.
1. Video und Videoeffekte
2. Animierte Fotografie mit lose interpretierbaren erzählerischen Elementen in abstrakten, ausdruckstarken typografischen Mustern
3. animierte abstrakte Zeichenteile in bewegten typografischen Zeichen
4. Echtzeitkamera holt wirksame Bildausschnitte der Echtzeitszene ins Bild
5. inhaltliche Perspektiven, Szenarien, Storyboard, dramaturgische Prozesse:
5.1 Interaktive Szenarien:
Szenario 1: Eine Performerin setzt ihre rational interpretierten Bilder über ein Codierungsprinzip automatisch ein und braucht sie als visuelles Feedback, um damit ihre irrationale tänzerische Interaktion anzuregen.
Szenario 2: Zwei oder mehrere Leute beziehen sich in einer Choreografie auf einen gegenseitig oder kollektiv generierten Bilderfluss und begeben sich über diesen Umweg in einen konzentrierten kommunikativen Zustand.
Szenario 3: Die intelligente Maschine, welche die Funktion hat, etwas vom Spiel der Leute zu abstrahieren und den Spielern einen geheimnisvollen Sog, einen Alarm, eine widerspenstige Struktur, einen minimalisierten Bilderraum, einen herausfordernden Bilderprozess anzubieten, einen Schlüssel, an dem die Fantasie der Spieler sich weiter entzünden kann.
5.2 Dramaturgisch relevante Faktoren:
Beiträge zur Dramaturgie seitens Maschine:
Variation (nach Prinzip),
Vorgabe-Raster, Regelwerk
Überraschung Unvoraussehbarkeit,
Zufall, eigene Automatismen und Behaviours, Spannungsfeld Erkennen-nicht Erkennen, Verhaltensvoraussage, Umkehr vom Verhaltensspiegel, Kontrast, Provokation etc. u.U. bewusst kontrolliertes Instrument
Beiträge zur Dramaturgie seitens Mensch:
Spannungsfeld Aktion-Ruhe Bewegungsreduktion, Fokusreduktion, visuelle Auswahl / Feedback Auswahl von Interaktionszeitpunkt, intuitives reaktives Verhalten, intuitives aktives Verhalten, bewusste Gegenpole, bewusste Steuerung,
Arbeit mit thematischem Input.
Gestalterisch interessieren hier vor allem die Extreme und Grenzen des gesamten Settings bzw. wie solche bildnerisch und dramaturgisch herausgearbeitet werden können.
Es geht um das Brechen von eigenen Wahrnehmungscodes, um die kontemplative Wahrnehmung selbst, das Finden und Erfinden von Mustern und Kontexten.
5.3 Inhaltliches
Grundsätzlich sollen die Tanzenden dem System nicht folgen, sondern es improvisierend durchbrechen.
Eine leitende thematische Idee ist der Kampf mit dem eigenen Bildercode.
Ein wesentlicher Ansatz für die Bildernarration ist die Artikulation von spontanen visuellen Imaginationen, die konkret während der Tanzerfahrungen mit dem System entstehen. Das Storyboard wird also auf grundsätzlich irrationalen Bilderfolgen basieren, die aber auf einer abstrakteren Empfindungsebene ineinander gefügt und zu einem mehrdimensionalen Bildersystem aufgebaut werden.
Der Bilderstil wird eine surreal-lyrische aber ästhetisch reduzierte Sprache nutzen.
Eine implizite Idee ist, über das aktive Bewegungsverhalten Bilderwelten durch die Schlüssellöcher von Buchstaben-Zeichen aufdecken zu können.
Das XML Interface, in dem Fotografien und Bildparameter und auch die dramaturgischen Verhaltensparameter geändert werden können, bietet die Möglichkeit für einen solchen fortlaufenden Gestaltungsprozess.
Zur Zeit wird auf allen Ebenen noch programmiert und an Bildmaterial liegen erst gestalterische Skizzen und Dokumentationen der Sensorentanzexperimente vor. Verbindliches Bildmaterial zur Visualisierung kann allenfalls zu einem späteren Zeitpunkt im Juli / August nachgeliefert werden.

Technik

Technische Beschreibung

Technisches Konzept:
Prinzip
Das Prinzip beruht auf Motiontracking mit kabellosen tragbaren Beschleunigungssensoren, Musteranalyse der Sensordaten (Hidden Markov Models), Mapping von Bewegungszustandskategorien auf Emotions-Kategorien, Übersetzung in Parameter der Bildkomposition, dramaturgisch strukturiertes Verhalten des Bilderflusses beruhend auf dem Emotionsraum-Modell.
Zwei neuartige Softwaremodule einerseits für Bewegungsanalyse, andererseits für die Bildvisualisierung werden in Bluebottle/Aos http://www.oberon.ethz.ch/ entwickelt. Das entsprechende Wearable wird unabhängig von diesem Projekt im Rahmen des Euro-Projektes 2WEAR entwickelt. http://www.aramis-research.ch/d/13405.html.
User Interfaces
Ein fortlaufender Bildgestaltungsprozess soll innerhalb dieser Software über ein User Interface in XML ermöglicht werden, worin die Notation der Bilder im Detail sowie die Spiel-Verhaltensmodi laufend definiert werden können.
Ein weiteres User Interface sind die Sensoren. Diese werden aber voraussichtlich nicht zur expliziten Bildgestaltung (bewusstes Zeichnen) eingesetzt, denn von unserem Konzept her ist die Interpretation der Bewegung automatisiert. Grundsätzlich wäre es aber denkbar, durch bestimmte funktionalisierte Bewegungsabläufe bewusst zu zeichnen. Wie die unterschiedlichen Interaktionsweisen jeweils vom Benutzer adaptiert werden können, wird anhand des Prototyps getestet.
Verwendete Hardware
2 PCs (Active Oberon System)
2 Mac Laptops (Max/Jitter)
8 Beschleunigungssensoren
2 Sensorcontroller
2 Prototyp-Wearables
(mit Strongarm Prozessor
und Bluetooth Chip)
2 Beamer
1 Videokamera
2 Projektionswände ca. 3x5m2
ETH-eigene Software
wireless Kommunikationsmodul Sensor-PC
Kompositionssystem und Grafik
Bewegungsanalysemodul
Videoeffekt-Software: Max/Jitter
Methodisches Vorgehen
- Bewegungsregistrierung mit Sensoren
- Echtzeitstreaming von Daten
- Analyse der Sensordaten (Mustererkennung oder explizite Parameterumrechnung)
- Mapping über ein Übersetzungsprinzip (Struktur Empfindungsraum)
- Bildgenerierung gesteuert von den zugeordneten Parametern oder Kategorien
-Ebene des Systems
- Dramaturgische Arbeit mit System, Optimierung, Dokumentation
Der Übersetzungsprozess
Die Maschine registriert Beschleunigungsmuster oder einzelne Bewegungsparameter, übersetzt sie in Koordinaten in einem Emotions-Raum (einem System von abstrakten, ästhetischen Empfindungsdimensionen), und interpretiert diese Koordinaten als Bildparameter. Darüber baut sich eine Struktur von visuellen Ausdrucksmitteln auf (einzelne graphischen Parameter, Bildzeichen, Bildklassen bzw. kompositorische Klassen). Diese Empfindungs-Register-Struktur basiert auf bestimmten Dimensionen, welche sich flexibel zu neuen Qualitäten kombinieren lassen.
Als Kern eines solchen Systems wird also ein abstrakter Empfindungs-Raum dienen.
Von diesem 1:1 Übersetzungsprinzip aus werden die eigenen Behaviours des Systems abgeleitet. Diese sollen insbesondere
(1.) intuitiv wirksame Bezüge zum Tanzverhalten setzen
(2.) eine Ebene der Provokation ins Spiel bringen.
(3.) Besondere Spielregeln oder Schranken repräsentieren, die das jeweilige gestalterische und dramaturgische Setting unterstützen.
Das XML Interface, in dem Fotografien und Bildparameter und auch die dramaturgischen Verhaltensparameter geändert werden können, bietet im weiteren die Möglichkeit für einen fortlaufenden Gestaltungsprozess, aufbauend auf der Kernstruktur des Systems.
Träger bzw. Medium, Technik: SVGA Computer-Projektion und interaktiver digitaler Prototyp, sensorengesteuert während Tanzperformance.
Visuelle Variante A: Computergenerierte Echtzeit-Animation von digitaler Farbfotografie mit Typografie, welche via tragbarer Körpersensoren durch expressive Tanzgesten gesteuert wird. Für die Echtzeitanimation wird eine prototypische Grafiksoftware in Bluebottle/Aos (Active Oberon System) entwickelt. Für die Interpretation der Sensorendaten wird ebenfalls ein eigenes Expressivitätsanalyse- Bildkompositions- und Bildnavigationsprinzip prototypisch entwickelt, welches die dramaturgische Struktur der Animation grundsätzlich bedingt. Zum anderen Teil ist die Dramaturgie der Bilder und des gesamten Werkes unmittelbar bestimmt von der Interaktion einer improvisierenden Tanzperformerin.
Visuelle Variante B: interaktives Video und Videoeffekte in Max/Jitter, gesteuert wie Variante A.

Hardware / Software

Verwendete Hardware
2 PCs (Active Oberon System)
2 Mac Laptops (Max/Jitter)
8 Beschleunigungssensoren
2 Sensorcontroller
2 Prototyp-Wearables
(mit Strongarm Prozessor
und Bluetooth Chip)
2 Beamer
1 Videocamera
2 Projektionswände ca. 3x5m2
ETH-eigene Software Aos und Bluebottle
wireless Kommunikationsmodul Sensor-PC
Kompositionssystem und Grafik
Bewegungsanalysemodul

  • › digital sparks 2003 [link 02]

» http://www.hyperwerk.ch/ikudoku [link 03]

  • › Lab conditioned dancer [JPEG | 37 KB ] [link 04]
  • › Skizze zur Visualisierung in Bluebottle/Aos [JPEG | 39 KB ] [link 05]
  • › Tanz mit Videoeffekten in Max/Jitter [JPEG | 33 KB ] [link 06]
  • › Skizze zur Visualisieurung in Bluebottle [JPEG | 33 KB ] [link 07]
  • › Funktionalitaeten-Test der Bluebottle-Software [JPEG | 50 KB ] [link 08]