Tänzerin in Motion Capturing Studio

MOCCA – Motion Capturing Creative Area

Eine kreative Struktur für transdisziplinäre Projekte im Bereich Bewegungsanalyse, Tanz, und Bewegtbild

Projektlaufzeit: 31.10.16 – 31.3.19

Ziel des Förderprojekts sind die gezielte Vernetzung und Vermittlungsaktivitäten rund um Bewegung zwischen den vier Bereichen Kunst und Tanz, Film und virtuelle Charakter, Gesundheit und Medizintechnik und Mensch-Technik-Interaktion zu entwickeln und nachhaltig für gemeinsamen F&E-Projektvorhaben als kreative und produktive Ausgangsbasis zu implementieren.

Inhalte geplanter Motion-Projekte sind unter anderem:

  1. Bewegungsbasierte Körper-Schnittstellen für audiovisuelle Performances
  2. Bewegungs-Interfaces und Dienstleistungen für den Gesundheitsbereich
  3. IDENTITÄT – eine interaktive Mixed Reality-Performance für Kunstfestival und Technik Messe
  4. 3D Werkzeug für Prävisualisierung von Echtzeit VR Motion Capture Inhalten

Dabei wird die Infrastruktur aus bisherigen gemeinsamen Arbeiten genutzt und die Konzentration liegt auf den spezifischen Herausforderungen kreativer „Swap-Over“ Projekte an der Schnittstelle Kunst, Medien, Technik und Wissenschaft mit dem Fokus auf Bewegung.

MOCCA soll nachweisen, dass zwischen Tanzkunst, Medizintechnik und interaktiven digitalen Medien echte Synergien über Fachgrenzen hinweg durch bidirektionale Interventionen möglich sind. Die gewonnenen Erkenntnisse sollen für neue Dienstleistungsangebote und zukünftige Vorhaben der Partner genutzt werden und im Rahmen eines dauerhafte betriebenen MotionCapturing-Zentrums Düsseldorf nach Projektende alle Interessenten zur Verfügung stehen.

Im Kalenderjahr 2017 konnten sowohl die beiden geplanten Hauptprojekte „Motion-Based User Expression“ und „Mixed Media Motion“ vorangebracht werden, sowie drei Workshops durchgeführt, vier Vorhaben zur Vorbereitung von Folgeprojekten realisiert, drei Nebenprojekte begleitet und zwei öffentliche Vorträge gehalten werden.

—– Motion-Based User Expression: Bewegung erzeugt Ton und Bild

Für das erste Subprojekt wurde ein bestehendes Projekt weiterentwickelt. Die Wahl fiel hierbei auf „CARUSO – Virtueller Tenor“, ein Performance-System, das Körpergesten und Gesichtstracking verwendet um Gesang zu synthetisieren. Diese Installation bot sowohl Zugang zu Bewegungs- sowie Tonerzeugungsaspekten, und eröffnete Möglichkeiten zur Weiterentwicklung im visuellen Bereich. Zusätzlich wurde eine erste, einfache Publikumspartizipation implementiert.

—–„Mixed Media Motion“: Mixed Reality Installation zum Thema IDENTITÄT

In diesem Subprojekt fand eine intensive Auseinandersetzung mit der Fragestellung statt, welche Auswirkungen verschiedenste Mess- und Trackingtechnologien auf die Identität eines Individuums haben. In der Performance „Dance Clinic“ wurden kritische Fragestellung auf ironische Weise dargestellt, indem (fiktive) Probanden mit Schwierigkeiten in ihrem tänzerisch-künstlerischen Ausdruck durch technische Mittel analysiert und von einer (fiktiven) künstlichen Intelligenz beraten wurden. Choy Ka Fai stellte hierbei die Rolle des Dance Doctors dar, der als Bindeglied zwischen dem Tänzer und der rein rational, das Individuum nur anhand von Daten erfassenden künstlichen Intelligenz interagierte. Die Performance bot hierbei sowohl modernste Tracking-Technologien in Form von Ganzköper-Initialsensoranzügen und Gehirnwellenmessgeräten dar, setzte sich mit geschichtlichen Aspekten der Entwicklung von Tanz auseinander, und zeigte künstlerisch anspruchsvolle Inhalte per Video-Projektion. Zudem stellte er mit Hilfe von Motion-Capture Sequenzen berühmter Choreographien nach und bezog diese in die Performance mit ein. Wichtiger Bestandteil der Präsentation, die auch einen trance-Tanz aus Papua enthielt, war das Spiel zwischen Realität und Fiktion. Das Publikum wurde im Ungewissen darüber gehalten, welche Elemente tatsächlich bereits technisch umgesetzt waren, und welche nur fiktiv dargestellt wurden. Hierbei und im Dialog nach der Performance fand eine Reflektion der eigenen Erwartungshaltung und des eigenen Vorstellungsvermögens statt.


Workshops

  • Ali Moini: Trackingberatung
  • Nuno Correia: Audiovisuals
  • Marcel Bückner: Projection Mapping

Nebenprojekte

  • OmniPresence: Orakel
  • Cliffdancer
  • SACRIFICE: Basar

Vorträge

  • Startup Woche Düsseldorf 2017
  • Intertain 2017

Vorbereitung Teilprojekte

—–Sensor-Belastungstest

Um verschiedene Parameter des Inertialsensortrackingsystems NORAXON zu untersuchen wurden diese für ein Ganzköper-Skelett-Tracking an einer Hip-Hop-Tänzerin angebracht. Gemessen werden sollte, ob das System auch unter hohen Belastungen robust funktioniert, wie die Sensoren auf schnelle und häufige Wechsel der Bewegungsrichtung reagieren, wie sich das System bei längerer Nutzung und hoher Belastung verhält, und andere Parameter. Zusätzlich wurden zeitglich Muskelspannungssensoren verwendet um diese ebenso zu untersuchen. Die Ergebnisse lieferten wichtige Erkenntnisse für zukünftige Projekte mit NORAXON-Systemen.

—–Vergleichsstudie Captury, OptiTrack, NORAXON

Zum Vergleich des markerlosen Trackingsystems Captury, des marker-basierten Trackingsystems OptiTrack, und des Intertialsensorentrackingsystems NORAXON (Referenz) wurden insgesamt 20 Probanden auf dem Laufband und bei der Durchführung von Kniebeugen gemessen. Untersucht werden sollte, welche Unterschiede in der Winkelgenauigkeit der Trackingsysteme in Bezug auf Knie- und Hüftgelenk entstehen. Die Messungen ergaben, dass bei den optischen Trackingverfahren die Messumgebung und -bedingungen (Vorbereitung etc) eine erhebliche Rolle spielen. Aufgrund der Ergebnisse der Studie wurde mit der Konzeptionierung einer stärker kontrollierten Studie für das Jahr 2018 begonnen.

—–MOCAVIP

Als Vorstudie für Subprojekt 5 „PreViz Neuro-Motion VR: Der virtuelle Puppenspieler“ werden zusammen mit Studierenden der Hochschule Düsseldorf zwei Animationsfilme erstellt, die Tanz, 3D-Charakter-Modellierung und -Animation, 3D-Kulissen-Modellierung, und Musik kombinieren. Die 60- bis 90-sekündigen Videos sollen im Besonderen zu erwartende Fallstricke und Phasen mit hohem zeitlichen Aufwand identifizieren, um für das Subprojekt 5 entsprechend planen zu können. Das Projekt eignet sich hierzu besonders, da es sämtliche Produktionsschritte, von den Aufnahmen im Motion-Capturing Studio über die Nachbearbeitung der Daten und der Modellierung und Animation von 3D-Inhalten bis hin zur Komposition im fertigen Film beleuchtet, und alle vier Projektpartner ihre Expertise einbringen können.

—–Expanded Body

Auszug aus der Ausschreibung das „Digital Dance Lab – The Expanded Body“

„Das Digital Dance Lab bietet Tänzer*innen, Choreograph*innen, anwendungsorientierten Entwickler*innen, Medien-Techniker*innen und Medien-künstler*innen die Möglichkeit, mit neuesten Technologien (Motion Capture, 360°-Video, Augmented/Virtual/Mixed Reality, körpernahe Biosensorik u.a.) zu experimentieren, Synergien herzustellen und sich über Connectivity und die Möglichkeiten des Körpers im digitalen Zeitalter auszutauschen.

Die Ergebnisse dieser einwöchigen interdisziplinären Begegnung werden im Rahmen des Temps d’images-Festivals am tanzhaus nrw einem interessierten Publikum zugänglich gemacht.


Gefördert durch EFRE

Projektpartner

Logo Hochschule Düsseldorf
Logo Tanzhaus NRW
Dancer in Motion Capturing Studio

MOCCA – Motion Capturing Creative Area

A creative structure for transdisciplinary projects in the field of movement analysis, dance and moving image

Project duration: 31.10.16 – 31.3.19

The aim of the funding project is to develop targeted networking and mediation activities relating to movement between the four areas of art and dance, film and virtual character, health and medical technology and human-technology interaction, and to implement them in a sustainable manner for joint R&D projects as a creative and productive starting point.

Contents of planned motion projects include

  • Motion-based body interfaces for audiovisual performances
  • Motion interfaces and services for the health sector
  • IDENTITY – an interactive mixed reality performance for art festival and technology fair
  • 3D tool for pre-visualization of real-time VR motion capture content

The infrastructure from previous joint projects will be used and the focus will be on the specific challenges of creative „swap-over“ projects at the interface of art, media, technology and science with a focus on movement.

MOCCA aims to demonstrate that real synergies between dance art, medical technology and interactive digital media can be achieved across disciplinary boundaries through bi-directional interventions. The knowledge gained is to be used for new service offers and future projects of the partners and will be available to all interested parties in the context of a permanently operated MotionCapturing Centre Düsseldorf after the end of the project.

In the calendar year 2017 the two planned main projects „Motion-Based User Expression“ and „Mixed Media Motion“ could be advanced, three workshops could be held, four projects for the preparation of follow-up projects could be realized, three side projects could be accompanied and two public lectures could be held.

—– Motion-Based User Expression: Motion generates sound and image

For the first subproject an existing project was further developed. The choice fell on „CARUSO – Virtual Tenor“, a performance system that uses body gestures and face tracking to synthesize vocals. This installation offered access to both movement and sound generation aspects, and opened up possibilities for further development in the visual field. Additionally, a first, simple audience participation was implemented.

—– „Mixed Media Motion“: Mixed Reality Installation on the topic of IDENTITY

In this subproject, an intensive examination of the question of what effects the most diverse measurement and tracking technologies have on the identity of an individual took place. In the performance „Dance Clinic“, critical questions were presented in an ironic way by analysing (fictitious) test persons with difficulties in their dance-artistic expression by technical means and advised by a (fictitious) artificial intelligence. Choy Ka Fai presented the role of the Dance Doctor, who interacted as a link between the dancer and the purely rational artificial intelligence, which recorded the individual only on the basis of data. The performance offered the most modern tracking technologies in the form of whole-body initial sensor suits and brain wave measuring devices, dealt with historical aspects of the development of dance, and showed artistically sophisticated content via video projection. In addition, he used motion-capture sequences of famous choreographies and incorporated them into the performance. An important part of the presentation, which also included a trance dance from Papua, was the play between reality and fiction. The audience was kept in the dark about which elements were actually already technically implemented and which were only fictional. Here and in the dialogue after the performance a reflection of the own expectations and the own imagination took place.

—————————————————————-

—–Ali Moini: tracking consultation

—–Nuno Correia: Audiovisual

—–Marcel Bueckner: Projection Mapping

—————————————————————————————————————————————

—– OmniPresence: Oracle

—–Cliffdancer

—– SACRIFICE: Bazaar

——————————————————————————————-

—–Startup week Düsseldorf 2017

—–Intetain 2017

—–Sensor load test

In order to investigate different parameters of the inertial sensor tracking system NORAXON they were attached to a hip-hop dancer for a whole-body skeleton tracking. The aim was to measure whether the system functions robustly even under high loads, how the sensors react to fast and frequent changes in the direction of movement, how the system behaves during prolonged use and high loads, and other parameters. In addition, muscle tension sensors were also used at times to investigate these as well. The results provided important insights for future projects with NORAXON systems.

—–Comparison study Captury, OptiTrack, NORAXON

For the comparison of the markerless tracking system Captury, the marker-based tracking system OptiTrack, and the intertial sensor tracking system NORAXON (reference), a total of 20 subjects were measured on the treadmill and when performing knee bends. The aim was to investigate the differences in the angular accuracy of the tracking systems in relation to knee and hip joints. The measurements showed that the measurement environment and conditions (preparation etc) play a significant role in the optical tracking procedures. Based on the results of the study, the conceptual design of a more controlled study for the year 2018 was started.

—–MOCAVIP

As a preliminary study for subproject 5 „PreViz Neuro-Motion VR: The virtual puppeteer“, two animation films will be created together with students of the University of Applied Sciences Düsseldorf, combining dance, 3D character modeling and animation, 3D scenery modeling, and music. The 60 to 90-second videos are designed to identify expected pitfalls and phases with high time expenditure in order to be able to plan accordingly for subproject 5. The project is particularly suitable for this purpose because it illuminates all production steps, from the recording in the motion-capturing studio, the post-processing of the data and the modelling and animation of 3D content to the composition in the finished film, and all four project partners can contribute their expertise.

—–Expanded Body

Excerpt from the call for proposals „Digital Dance Lab – The Expanded Body

„The Digital Dance Lab offers dancers, choreographers, application-oriented developers, media technicians and media artists the opportunity to experiment with the latest technologies (motion capture, 360° video, augmented/virtual/mixed reality, body-oriented biosensors, etc.), to create synergies and to exchange ideas about connectivity and the possibilities of the body in the digital age.

The results of this one-week interdisciplinary encounter will be made available to an interested audience as part of the Temps d’images festival at the tanzhaus nrw.

———————————————————————————————-

We are pleased to be able to work with the following project partners in this context:

Funded by EFRE

Project Partners

Logo Hochschule Düsseldorf
Logo Tanzhaus NRW
Nach oben scrollen
WordPress Cookie Plugin von Real Cookie Banner