Erschreckend echt

Ein Programm ermöglicht die fast perfekte Illusion: Deepfakes sind täuschend echte Videomanipulationen.

Dieser Fake ist noch leicht zu entlarven: Steve Buscemis Kopf auf Sharon Stones Körper.

Screenshot Youtube/ZeroCool22

Feedback

Tragen Sie mit Hinweisen zu diesem Artikel bei oder melden Sie uns Fehler.

Es gibt diese berühmt-berüchtigte Szene im Film «Basic Instinct», in der Sharon Stone im Verhör die Beine übereinanderschlägt, und, na ja, Sie kennen die Szene sicher. Unfreiwillig komisch wird besagter Moment, wenn Steve Buscemis Gesicht auf Stones Körper montiert ist.

Diese Szene ist semi-safe-for-work, die entsprechende Stelle ist verpixelt.

Möglich macht das ein Programm namens «Fakeapp», das seit einigen Wochen in den Untiefen des Internets für Furore sorgt. Damit kann man jedes beliebige Gesicht in Videos hinein montieren – die Clips sind unter dem Sammelbegriff Deepfake zu finden. Das Programm wendet Deep Learning an, um Bilder von Gesichtern möglichst echt in die Videos einzusetzen. Das öffnet nicht nur allerlei Schurkereien Tür und Tor, sondern wirft darüber hinaus Fragen danach auf, ob man seinen Augen überhaupt noch trauen kann – und ob sich die Grenzen des ethisch Erlaubten verschieben, weil etwas technisch möglich ist.

Neben lustig gemeinten Manipulationen wie dem erwähnten Buscemi-Stone-Remix tauchten selbstverständlich schnell bösartigere Videoexperimente auf, zum Beispiel von einer strippenden Michelle Obama; da hatte jemand das Gesicht der ehemaligen First Lady auf den Körper einer Dame aus der Pornobranche transferiert. Klar: Sogenannter Revenge Porn, pornografische Diffamierung beispielsweise nach einer unschönen Trennung, könnte ein Betätigungsfeld gehörnter – und technisch versierter – Ex-Freunde und -Freundinnen sein.

Die App – und damit die Fakes – werden besser

Noch ist die Fakeapp für Technikamateure nicht ganz einfach zu bedienen. Sie bedarf darüber hinaus anscheinend grosser Rechenleistung – je perfekter das Ergebnis sein soll, desto länger dauert der «Trainingsprozess» – und ein gutes Ausgangsmaterial: Wer wirklich täuschend echte Videomanipulationen erstellen möchte, braucht Hunderte, vielleicht sogar Tausende Fotos eines Gesichts, das dazu noch auf einen Körper passt. Dass Buscemis markante Visage nicht zu Stones Körper gehört, erkennt man sofort. Wer ernsthaft täuschen möchte, muss sich mehr Mühe machen.

Doch die App wird weiterentwickelt und benutzerfreundlicher werden (derzeit ist sie als Version 2.2 erhältlich) und die, die sie bedienen, ihre technischen Fähigkeiten ebenfalls ausbauen. Auf Reddit wurden das Programm und die resultierenden Videos – vor allem die pornografischer Art – derart populär, dass die Forumbetreiber sich zum Eingreifen gezwungen sahen. Seit Januar sind mehrere Subreddits geschlossen worden, Fakeapp hat für seine Nutzer kurzerhand auf der eigenen Website ein Forum eingerichtet. Auch Twitter und die Pornoseite Pornhub haben derartige Deepfake-Videos entfernt.

In den USA gibt es bereits vereinzelt Politiker, denen diese Form von Manipulation so grosse Sorgen bereitet, dass sie gar ein neues Fake-News-Zeitalter aufziehen und Handlungsbedarf sehen. IT-Experten wie Aviv Ovadya von der Universität von Michigan teilen diese Sorgen und weisen darauf hin, dass Fake-Videos nur ein Aspekt einer düsteren digitalen Zukunft sein könnten.

Politische Manipulation liegt auf der Hand

Wie gut Videos mit entsprechender Expertise, Rechnerleistung und Zeit jetzt schon sind, demonstriert Kevin Roose von der «New York Times» zusammen mit einem Reddit-Nutzer namens «Derpfakes». Die Videoschnipsel, die er in seinem Artikel präsentiert, haben mehrere Stunden Produktionszeit in Anspruch genommen.

Auf Reddit und Youtube finden sich eine ganze Menge weitere Clips unterschiedlicher Länge und Qualität. Derpfakes ist auch auf Youtube aktiv und bietet hier sogar ein Tutorial an, das einen Einblick darin bietet, wie Fakeapp arbeitet und wie aufwendig der Prozess noch ist.

Dass sich Fakeapp auch für politisch motivierten Schwindel nutzen lässt, zeigen weitere Arbeiten von Derpfakes, die auf Material der Comedyshow «Saturday Night Live» basieren. Was Fakeapp bislang noch nicht kann: die Videos mit einer entsprechenden Tonspur versehen, die zum aufmontierten Gesicht gehören. Das könnten andere Dienste wie Lyrebird bewerkstelligen.

Ein weiterer Aspekt, der skeptisch machen sollte, wird derweil auf Reddit diskutiert: Man weiss nicht, wer hinter der Fakeapp steckt. Eine Abfrage in der Domain-Registratur für fakeapp.org verweist lediglich auf einen Host in Toronto, Kanada. Der Betreiber der App will gegenüber Roose, dem Journalisten der «Times», lieber anonym bleiben. Reddit-Nutzer mutmassen, dass es ein Leichtes wäre, mit dem Download des Programms auch Schadsoftware auf einen Rechner zu schmuggeln.

Was die Anwendung allerdings heute schon zeigt: Es ist möglich, Videos fast täuschend echt zu manipulieren, es wird einfacher werden, und sie wird genutzt. Natürlich werden Experten wie Laien besser darin werden, diese Deepfakes zu entlarven – Kopfzerbrechen bereiten sie alle mal. Man muss kein ausgesprochener Pessimist sein, um sich zu fragen, wie lange man noch den eigenen Augen trauen kann. (Tages-Anzeiger)

Erstellt: 08.03.2018, 18:03 Uhr

Artikel zum Thema

Fake News waren erst der Anfang

Der amerikanische IT-Spezialist Aviv Ovadya malt ein düsteres Bild der digitalen Zukunft. Mehr...

Kommentare

Die Welt in Bildern

Unendlich: Die Kunstinstallation «Wald der nachhallenden Lichter» im Mori Building Digital Art Museum in Tokio. (21. Juni 2018)
(Bild: Shuji Kajiyama/AP Photo) Mehr...