Alexander Kläser

Magic Music Hand

Komponiere Musik mittels Handgesten

Nominee of the digital sparks award 2002

Magic Music Hand

Magic Music Hand

University / department

Fachhochschule Bonn-Rhein-Sieg
Angewandte Informatik

University URL

» http://www.fh-brs.de

Project supervisor

Prof. Dr.-Ing. Rainer Herpers

Supervisor commentary

Das Magic Music Hand Projekt von Herrn Alexander Kläser entstand in Zusammenarbeit mit dem Center for Vision Research (CVR) der York University, Toronto, Kanada (http://www.cvr.yorku.ca/) unter der Leitung von Prof. J. K. Tsotsos (http://www.cs.yorku.ca/~tsotsos/ ) während eines 6-monatigen Forschungsaufenthaltes des Autors in Toronto.
Das York Center for Vision Research führt seit vielen Jahren sehr erfolgreich interdisziplinäre Forschungen auf den Gebieten der sensorischen und motorischen Prozesse, der Wahrnehmung und der Computer Vision durch.
Aufgabe von Herrn Kläsers Projekt war, eine multimediale Anwendung zu entwickeln, die über die Auswertung von visuellen Informationen in der Lage ist, akustische und andere mediale Informationen, wie Signale oder allgemein Stimuli auszugeben sowie geeignet zu steuern. Dies ist ihm im Rahmen der zur Verfügung stehenden Ressourcen hervorragend gelungen. Eine Handgeste wird dynamisch visuell erfasst und in Echtzeit ausgewertet, so dass verschiedene Freiheitsgrade durch die Handgeste bzw. durch die Fingerbewegungen gesteuert werden können. Als Anwendung wurde die Improvisation von Musik gewählt, die eine sehr eindrucksvolle und effiziente Umsetzung der entwickelten Methodik darstellt. Die in der Kürze der Zeit erzielten hervorragenden Ergebnisse machen die besondere Befähigung von Herrn Klaeser sowohl in technischer als auch in kreativer Hinsicht deutlich.
Einige Grundlagen und Vorarbeiten zu dem Projekt wurden im Rahmen einer Projektlehrveranstaltung zum Thema 'Computer Vision' im Fachbereich Angewandte Informatik im Sommersemester 2001 gelegt. Nach der Rückkehr von Herrn Kläser wird das Magic Music Hand Projekt im Rahmen eine weiterführenden Lehrveranstaltung fortgeführt. Die Anwendbarkeit der Handgesten soll dabei erweitert und flexibilisiert werden. So soll ein dreidimensionales Handmodell entwickelt werden, welches die natürliche Handbewegung abzubilden in der Lage ist und darüber hinaus weitere multimediale Anwendungen unterstützen hilft.
Zusammenfassend möchte ich dieses Projekt ausdrücklich für diesen Wettbewerb empfehlen, da es eine sehr 'anschauliche' (im akustischen Sinne) Leistung eines jungen Wissenschaftlers darstellt, die einen intuitiven Zugang durch Handgesten zum Medium Computer herstellt. Im Rahmen des Projektes werden verschiedene Sinne angesprochen, die in ihrer Einheit eine sinnvolle Anwendung ergeben. Der erzielte Spaßfaktor bei der gewählten Anwendung stellt einen weiteren wichtigen Pluspunkt dar. Darüber hinaus bietet das Projekt eine Vielzahl von möglichen Erweiterungen, die auf der Grundlage des ausgelobten Stipendiums durchgeführt werden könnten.

Course abstract

Die Studierenden sollen im Rahmen der Lehrveranstal-tungsreihe zum Thema 'Computer Vision' anhand von kleinen, modularisierten Projekttätigkeiten ausgewählte, aktuelle Bereiche des Computer Visions und der Anwendungen von Multimediasystemen kennen und praktisch einüben lernen. Hierbei stehen insbesondere Anwendungen an der Schnittstelle zwischen natürlicher Interaktion und Interaktion mit dem Computer im Vordergrund. Dabei werden die mit Kamera- und Videotechnik gewonnenen Daten als eine wesentliche natürliche Informationsquelle betrachtet. Zu deren computergestützten Verarbeitung gilt es, in den Lehrveranstaltung die notwendigen Grundlagen zu legen und in Rahmen von Kleingruppen geeignete Lösungen für kleine exemplarische Fragestellungen zu erarbeiten.

Die Veranstaltung wird durch ein Literaturstudium und durch eine Serie von Gastvorträgen ergänzt, in dem aktuelle Fragestellungen aus den betroffenen Bereichen vorgestellt und ausführlich diskutiert werden.

Relation to the research area

Diese Arbeit ist dem Forschungsschwerpunkt der Hochschule 'Anwendungen von Multimediasystemen in Forschung und Lehre' zugeordnet.

Das Forschungsgebiet Computer Vision, welches sich sowohl von der technologischen Seite als auch von der wahrnehmungspsychologischen Seite dem Thema Maschinensehen versucht zu nähern, ist integraler Bestandteil des oben genannten Forschungsschwerpunktes der Hochschule. Die eingereichte Arbeit ist aufgrund der Integration des Computer Vision Systems für einen multimedialen Einsatz insbesondere im Rahmen des Forschungsgebietes Computer Vision entstanden.