Dr. Irena Kulka


Instant Gain in Grace

An interactive tool fusing dance performance and visual media


Labdance [link 01]

Labdance

Technik

Technische Beschreibung

Technisches Konzept:
Prinzip
Das Prinzip beruht auf Motiontracking mit kabellosen tragbaren Beschleunigungssensoren, Musteranalyse der Sensordaten (Hidden Markov Models), Mapping von Bewegungszustandskategorien auf Emotions-Kategorien, Übersetzung in Parameter der Bildkomposition, dramaturgisch strukturiertes Verhalten des Bilderflusses beruhend auf dem Emotionsraum-Modell.
Zwei neuartige Softwaremodule einerseits für Bewegungsanalyse, andererseits für die Bildvisualisierung werden in Bluebottle/Aos http://www.oberon.ethz.ch/ entwickelt. Das entsprechende Wearable wird unabhängig von diesem Projekt im Rahmen des Euro-Projektes 2WEAR entwickelt. http://www.aramis-research.ch/d/13405.html.
User Interfaces
Ein fortlaufender Bildgestaltungsprozess soll innerhalb dieser Software über ein User Interface in XML ermöglicht werden, worin die Notation der Bilder im Detail sowie die Spiel-Verhaltensmodi laufend definiert werden können.
Ein weiteres User Interface sind die Sensoren. Diese werden aber voraussichtlich nicht zur expliziten Bildgestaltung (bewusstes Zeichnen) eingesetzt, denn von unserem Konzept her ist die Interpretation der Bewegung automatisiert. Grundsätzlich wäre es aber denkbar, durch bestimmte funktionalisierte Bewegungsabläufe bewusst zu zeichnen. Wie die unterschiedlichen Interaktionsweisen jeweils vom Benutzer adaptiert werden können, wird anhand des Prototyps getestet.
Verwendete Hardware
2 PCs (Active Oberon System)
2 Mac Laptops (Max/Jitter)
8 Beschleunigungssensoren
2 Sensorcontroller
2 Prototyp-Wearables
(mit Strongarm Prozessor
und Bluetooth Chip)
2 Beamer
1 Videokamera
2 Projektionswände ca. 3x5m2
ETH-eigene Software
wireless Kommunikationsmodul Sensor-PC
Kompositionssystem und Grafik
Bewegungsanalysemodul
Videoeffekt-Software: Max/Jitter
Methodisches Vorgehen
- Bewegungsregistrierung mit Sensoren
- Echtzeitstreaming von Daten
- Analyse der Sensordaten (Mustererkennung oder explizite Parameterumrechnung)
- Mapping über ein Übersetzungsprinzip (Struktur Empfindungsraum)
- Bildgenerierung gesteuert von den zugeordneten Parametern oder Kategorien
-Ebene des Systems
- Dramaturgische Arbeit mit System, Optimierung, Dokumentation
Der Übersetzungsprozess
Die Maschine registriert Beschleunigungsmuster oder einzelne Bewegungsparameter, übersetzt sie in Koordinaten in einem Emotions-Raum (einem System von abstrakten, ästhetischen Empfindungsdimensionen), und interpretiert diese Koordinaten als Bildparameter. Darüber baut sich eine Struktur von visuellen Ausdrucksmitteln auf (einzelne graphischen Parameter, Bildzeichen, Bildklassen bzw. kompositorische Klassen). Diese Empfindungs-Register-Struktur basiert auf bestimmten Dimensionen, welche sich flexibel zu neuen Qualitäten kombinieren lassen.
Als Kern eines solchen Systems wird also ein abstrakter Empfindungs-Raum dienen.
Von diesem 1:1 Übersetzungsprinzip aus werden die eigenen Behaviours des Systems abgeleitet. Diese sollen insbesondere
(1.) intuitiv wirksame Bezüge zum Tanzverhalten setzen
(2.) eine Ebene der Provokation ins Spiel bringen.
(3.) Besondere Spielregeln oder Schranken repräsentieren, die das jeweilige gestalterische und dramaturgische Setting unterstützen.
Das XML Interface, in dem Fotografien und Bildparameter und auch die dramaturgischen Verhaltensparameter geändert werden können, bietet im weiteren die Möglichkeit für einen fortlaufenden Gestaltungsprozess, aufbauend auf der Kernstruktur des Systems.
Träger bzw. Medium, Technik: SVGA Computer-Projektion und interaktiver digitaler Prototyp, sensorengesteuert während Tanzperformance.
Visuelle Variante A: Computergenerierte Echtzeit-Animation von digitaler Farbfotografie mit Typografie, welche via tragbarer Körpersensoren durch expressive Tanzgesten gesteuert wird. Für die Echtzeitanimation wird eine prototypische Grafiksoftware in Bluebottle/Aos (Active Oberon System) entwickelt. Für die Interpretation der Sensorendaten wird ebenfalls ein eigenes Expressivitätsanalyse- Bildkompositions- und Bildnavigationsprinzip prototypisch entwickelt, welches die dramaturgische Struktur der Animation grundsätzlich bedingt. Zum anderen Teil ist die Dramaturgie der Bilder und des gesamten Werkes unmittelbar bestimmt von der Interaktion einer improvisierenden Tanzperformerin.
Visuelle Variante B: interaktives Video und Videoeffekte in Max/Jitter, gesteuert wie Variante A.

Hardware / Software

Verwendete Hardware
2 PCs (Active Oberon System)
2 Mac Laptops (Max/Jitter)
8 Beschleunigungssensoren
2 Sensorcontroller
2 Prototyp-Wearables
(mit Strongarm Prozessor
und Bluetooth Chip)
2 Beamer
1 Videocamera
2 Projektionswände ca. 3x5m2
ETH-eigene Software Aos und Bluebottle
wireless Kommunikationsmodul Sensor-PC
Kompositionssystem und Grafik
Bewegungsanalysemodul

Kontext

Hochschule / Fachbereich

ETHZ und FHBB
Hyperwerk

URL der Hochschule

» http://www.hyperwerk.ch [link 02]

Betreuer des Projekts

Prof. Jürg Gutknecht

Kommentar des Betreuers

Projektziele aus der Sicht des Kommentators:
Auslotung neuer Formen der interaktiven Improvisation im darstellenden Bereich.
Nutzung Neuer Medien zur Steigerung der Erlebnisqualität in darstellerischen Produktionen.
Kurzbeschreibung aus der Sicht des Kommentators:
Erforschung von Möglichkeiten zur Erkennung, Interpretation und visuellen Umsetzung von Wahrnehmungen und Empfindungen einer Butoh-Tänzerin.
Implementation eines exemplarischen Systems unter Verwendung neuester Hardware- und Software-Technologie, insbesondere von Bewegungssensoren, Wearable Devices, Bluetooth Datenkommunikation sowie einer speziell entwickelten Graphikarchitektur.
Argumente zur Förderungswürdigkeit dieser Arbeit:
Die Arbeit fordert die Interdisziplinarität auf hohem Niveau heraus. Gestalterisch verfolgt diese Arbeit ein anspruchsvolles Konzept, das nur mit hoher Sensibilität für ästhetische und kontextuelle Zusammenhänge realisierbar ist.
Psychologisch erfordert die Arbeit das Betreten von Neuland in der Erforschung und Formalisierung des menschlichen Empfindungs- bzw. Wahrnehmungsraumes.
Algorithmisch muss das Problem der Übersetzung in Echtzeit eines Datenstromes der Bewegungssensoren (Motion Tracking) in eine Folge von Ereignissen angegangen und gelöst werden.
Technisch stellt die Arbeit höchste Ansprüche in folgenden Belangen:
Reibungsloses und effizientes Zusammenspiel unterschiedlichster, teilweise nichtkommerzieller Hardware- und Softwarekomponenten wie Bewegungssensoren, Kontroller, Wearable Device, Interpretations- und Visualisierungscomputer
Hochleistungs-Grafiksystem mit der Möglichkeit, durch Skripting gesteuerte Animationen mit Echtzeitereignissen zu synchronisieren und (zu einer neuen Form von Generativer Grafik) zu kombinieren. Die Arbeit verleiht der Medienkunst eine spürbare Inhaltlichkeit. Die Arbeit bemüht sich um die Einbindung interaktiver Prozesse bereits auf der Entwurfsstufe technologischer Entwicklungen. Die Arbeit vereinigt technisch-/wissenschaftliche Forschungsarbeit mit künstlerischen Inhalten zu einer herausfordernden und spannenden, gemeinsamen Produktion. Die Arbeit vereinigt gewinnbringend die beiden Themen Medienkunst und Computertechnologie.
Die Arbeit geht das Thema der interaktiven Improvisation im darstellenden Bereich des Tanzes auf innovative und ambitiöse Art an, in Form einer mehrstufigen Übersetzungskette, welche einerseits eine Improvisationsstruktur intuitiv vorzeichnet, andererseits dank gestalterisch freiem Einsatz von Tanzaktionen schöpferischen Interaktionsprinzipien genügend Raum lässt. Die Arbeit bringt die Tanzsprache und die bildende Sprache auf ihre gemeinsame Wurzel und setzt so neue Impulse im Kontaktbereich von Tanzkunst und Performancemedien. Die Arbeit passt zum Kontext CODE der diesjährigen Ars Electronica (Software and digital codes will be the centerpiece of this year's Ars Electronica entitled "CODE" the Language of our Time. Software as the law code prevailing in cyberspace, digital codes as basic elements of media art, and the convergence of information technology and biotech are the three thematic focal points that crystallize into the formula Code=Law, Code=Art und Code=Life.) Die Arbeit bearbeitet und reflektiert verschiedene, nonverbale Wahrnehmungscodes und ihre formalen Notationen quer durch unterschiedliche Medien. Die Arbeit umfasst den langen Prozess, angefangen mit Aspekten der Empfindung über die Erkennung relevanter Ereignisse im Empfindungsraum bis zu Formalismen der Steuerung visueller Software und, via die menschliche Gabe der Improvisation, wieder zurück zur Empfindung.

Seminar / Kurzbeschreibung

Das Projekt wird im Rahmen einer Diplomarbeit am Hyperwerk Basel (Satellit der Fachhochschule Beider Basel) ausgeführt. Diplomarbeiten am Hyperwerk werden typischerweise in Zusammenarbeit mit einem internen Team und mit externen Partnern realisiert.
Das Projekt bezieht teilweise synergetische Leistungen aus dem an der ETH Zürich laufenden Projekt 2WEAR im Rahmen des EU Programms "Disappearing Computer". Insbesondere kommen Prototypen von im genannten Projekt entwickelten Wearable Devices sowie eine speziell entwickelte Systemsoftware zum Einsatz.

Zuordnung Forschungsbereich

Forschungsschwerpunkte der Diplomandin:
Interaktionsforschung im Feld von künstlerischen Prozessen und interdisziplinärer Kommunikation zwischen Kunst und Technologie. Konzeptentwicklung und Produktion im Bereich interaktiver Medienkunst.
Forschungsschwerpunkte der ETH Partner:
Entwicklung von Hardware und Systemsoftware für Wearable Devices. Entwicklung eines umfassenden Interoperabilitätsmodells für hochgradig inhomogene Systeme. Entwicklung eines Hochleistungsgrafiksystems mit der Möglichkeit der Kombination von skriptgesteuerter Animation und Umsetzung von Echtzeitereignissen in Form von Effekten.

  • › digital sparks 2003 [link 03]

» http://www.hyperwerk.ch/ikudoku [link 04]

  • › Lab conditioned dancer [JPEG | 37 KB ] [link 05]
  • › Skizze zur Visualisierung in Bluebottle/Aos [JPEG | 39 KB ] [link 06]
  • › Tanz mit Videoeffekten in Max/Jitter [JPEG | 33 KB ] [link 07]
  • › Skizze zur Visualisieurung in Bluebottle [JPEG | 33 KB ] [link 08]
  • › Funktionalitaeten-Test der Bluebottle-Software [JPEG | 50 KB ] [link 09]