KI & Robotics

Deep Fake? Das Potenzial von synthetischen Medien

Anfang des Jahres sorgte auf der Video-Sharing-Plattform TikTok eine Serie von Tom-Cruise-Videos für große Aufmerksamkeit. Die Nutzer fragten sich, ob es sich um echte Videos handelte oder um Fälschungen. Später erklärte der belgische Medienkünstler Chris Ume, dass er die Videos am Computer erzeugt habe. Mit zahlreichen weiteren Beispielen von hyperrealistischen Videos hatte er für große Aufmerksamkeit gesorgt. In der öffentlichen Debatte und in den Medien wird heutzutage häufig der Begriff „Deep Fake“ verwendet, um diesen Bereich von synthetischen Medien zu beschreiben. 

Vice: The Person Behind the Viral Tom Cruise Deepfake


Auf welcher Technologie beruhen synthetische Medien?

Softwarecode ersetzt die Kamera oder das Mikrofon - das ist möglicherweise eine pragmatische Beschreibung, wie synthetische Medien erzeugt werden können. Oft benötigt es eine Vielzahl von bereits vorhandenen Technologien, um daraus neue Lösungen zu schaffen – bei synthetischen Medien spielten Computer Vision und Machine Learning eine wichtige Rolle, Generative Adversarial Networks (GANs) versuchen sich gegenseitig bei der Erzeugung von Ergebnissen zu übertreffen, so dass das Ergebnis, etwa ein Bild von Tom Cruise, nahezu perfekt wird.

Welche Risiken gibt es? 

Grundsätzlich sind synthetische Medien – wie auch andere Technologien – weder gut noch schlecht, es kommt auf die Verwendung an. Jedoch werden synthetische Medien aktuell oft negative konnotiert als Deep Fake bezeichnet. Häufig im Zusammenhang mit Manipulationen im Wahlkampf, der Beeinflussung der öffentlichen Meinung oder dem Erschleichen von Geld durch Täuschung zum Beispiel in Form von synthetischen Stimmen, manipulierten Bildern oder Videos. Auf die Frage, ob es im letzten US Wahlkampf 2020 eine hohe Beeinflussung durch Deep Fake gegeben habe, antwortete Nina Schick (Deep Fake Advisor) im Interview mit Victor Riparbelli (CEO of Synthesia), allerdings: „Betrachtet man die Erstellung synthetischer Medien, die zur politischen Desinformation genutzt wurden, so ist die Antwort, dass es kaum oder nur wenige Anwendungsfälle gibt, die zur politischen Desinformation genutzt wurden.“

Nicht nur Sicherheitsdienste haben das Thema Deep Fake als Risiko auf der Agenda, auch Tech-Unternehmen wie Gartner, Adobe und Microsoft arbeiten an Lösungen, um das Risiko des Missbrauchs von synthetischen Medien zu mindern. Möglichkeiten könnten unabhängige Stellen sein, die Bilder oder Videos als authentisch bestätigen und eine Art TÜV oder Gütesiegel vergeben. 

Welche Chancen und Anwendungsbereiche gibt es?

Die Nutzung von synthetischen Medien ist schon jetzt allgegenwärtig. Apps wie Reface oder FaceApp sind auf vielen Smartphones vorhanden. Spannend wird die Technologie, wenn sie für mehr Nutzer, auch im Unternehmenskontext, einfach und skalierbar sein wird.

Victor Riparbelli (CEO von Synthesia) und auch die Investoren von Samsung NEXT sehen in synthetischen Medien „the next big thing“ in der Medienlandschaft – vergleichbar mit der Veränderung durch die sozialen Medien. Synthetische Medien könnten es zukünftig jedem Nutzer ermöglichen, mit Hilfe von Technologie audiovisuell hochwertigen Content zu erzeugen. Aktuell ist dies gut finanzierten Hollywood Studios oder Netflix vorbehalten.

Ein konkretes Beispiel zeigt gerade die schwedische Band ABBA. Am 5. November 2021 wurde das neue Album „Voyage“ der Kultband veröffentlicht, 2022 wird ABBA auf Tour geben – und als Avatare tanzen und singen. Die Tickets für die Konzerte in London mit den ABBA-Avataren im Look der 1970 sind bereits erhältlich.

Synthetische Medien sind faszinierend – besonders im Kontext der jetzt schon möglichen kommerziellen und zukünftigen Nutzung. Sehen wir uns in London beim Konzert der Avatare?

Text: Simon Meier