Design Research

Paulina Zybinska, Interaction Design

Faketual Reality nutzt video- und audiogesteuerte Deepfakes, um den Besuchern die immersive Erfahrung zu ermöglichen, ihrer eigenen Alter Ego zu begegnen. Basierend auf dem psychologischen "OCEAN" Test und Aufnahmen vor Ort werden den Besuchern simulierte Realitäten in Form von kurzen Clips mit synthetisierten Deepfakes-Sätzen präsentiert. Durch die Erfahrung, das Gegenteil von sich selbst zu sehen, bietet Faketual Reality den Besuchern die Möglichkeit, die soziale und politische Dimension des maschinellen Lernens und des Datenschutzes besser und tiefer zu verstehen.

Sowohl der Zugang zu als auch die Vielfalt der Produktion und des Konsums von Videos hat im letzten Jahrzehnt exponentiell zugenommen, und damit auch die Verbreitung von manipulierten Videos. Aus professioneller Sicht der audiovisuellen Mediengestaltung gibt es Technologien zur Erstellung synthetischer Medien - wie z. B. Deepfakes - bereits seit den Anfängen der CGI-Technologien. Aufgrund der rasanten Entwicklung des maschinellen Lernens und der DeepLearning Technologie findet derzeit jedoch ein Paradigmenwechsel statt. Die Kosten und der Aufwand für die Erstellung synthetischer Medien, die auf den ersten Blick authentisch erscheinen, sinken rapide. Obwohl die Deepfake Technologie eindeutige Risiken birgt, da sie es mit immer einfacheren Mitteln ermöglicht, bewusst gefälschte Inhalte zu produzieren und für globale, politische oder persönliche Zwecke zu missbrauchen, werden heute bereits leicht zugängliche vergleichbare Technologien wie ein weiterer harmloser Trend behandelt. Faketual Reality nutzt eine Installation als Analysemedium, in der Probanden mit einem Deepfake ihrer selbst konfrontiert werden, um ihr Wahrnehmungs- und Reaktionsverhalten zu untersuchen. Auf der Grundlage der experimentellen Ergebnisse erforscht das Projekt die Risiken der absehbaren Verbreitung dieser Technologie. Mithilfe der Programmierung neuronaler Netze wird ein Modell geschaffen, das Deepfakes auf der Grundlage der Reaktionen des Publikums ständig optimiert und uns ein besseres Verständnis dafür vermittelt, was eine "Fälschung" authentisch erscheinen lässt. Durch diese experimentellen und theoretischen Schritte können Verifizierungsstrategien für Deepfakes bzw. audiovisuelle Medien definiert werden, die mit dem aktuellen Stand der Technik vereinbar sind.