Fake News waren erst der Anfang

Der amerikanische IT-Spezialist Aviv Ovadya malt ein düsteres Bild der digitalen Zukunft.

Vier falsche Obamas – Audio- und Video-Manipulationen ermöglichen es, Politikern Worte in den Mund zu legen, die sie nie gesagt haben.

Vier falsche Obamas – Audio- und Video-Manipulationen ermöglichen es, Politikern Worte in den Mund zu legen, die sie nie gesagt haben. Bild: Screenshot Youtube-Video

Feedback

Tragen Sie mit Hinweisen zu diesem Artikel bei oder melden Sie uns Fehler.

Es ist ein wahres Horrorszenario, das Aviv Ovadya da entwirft: hyperrealistische Video- und Audiobotschaften von real existierenden Politikern, die komplett fabriziert sind. Authentische E-Mails von Freunden, die diese nie geschrieben haben. Bürgerbewegungen, die es nicht gibt und die trotzdem die Legislative auf Trab halten. Und als Resultat aus all dem: ein kompletter Verlust unseres Urteilsvermögen, was nun echt ist und was nicht. Der Sturm, den Ovadya aufziehen sieht, lässt die Fake-News-Kapriolen der letzten zwei Jahre wie ein laues Lüftchen aussehen.

Das US-Magazin «Buzzfeed» hat mit dem Informatiker gesprochen – und überschreibt seinen Artikel mit der markigen Wortkreation «Infocalypse Now», in Anlehnung an Francis Ford Coppolas Vietnam-Filmklassiker. Warum ausgerechnet Ovadya jemand ist, auf den man hören sollte? Er hat bereits vor den US-Wahlen im Jahr 2016 darauf hingewiesen, dass die Art und Weise, in der Facebook, Twitter, Goole & Co. ihre Inhalte gewichten, grundlegend falsch ist. Wo Interaktionen und die Möglichkeit, Werbung zu verkaufen über Informationsgehalt und Qualität gestellt werden, so sagte er damals, läuft etwas schief. Die Entwicklungen der letzten beiden Jahre geben Ovadya recht: Mittlerweile haben auch die Tech-Giganten festgestellt, dass Algorithmen anfällig sind für Propaganda und Desinformation.

Nun also gibt der Mann, der zurzeit als «Chief Technologist» am Center for Social Media Responsibility an der Universität von Michigan tätig ist, Anlass zu weiterer Sorge. Eine ganze Reihe von Technologien könnte sich in Zukunft so unvorteilhaft entwickeln, dass nicht weniger als die Demokratie und die Errungenschaften der Aufklärung in Gefahr seien.

Kann man bald einem x-beliebigen Politiker Worte in den Mund legen?

Die meisten der beschriebenen Technologien bestehen, und erste besorgniserregende Anzeichen gibt es bereits. Video- und Audio-Dateien können mittlerweile so manipuliert werden, dass man Menschen glaubwürdig Worte in den Mund legen kann, die sie so nie gesagt haben. Das zeigen zum Beispiel Wissenschaftler der Universität von Washington.

Dies könnte zur «Diplomatie-Manipulation» genutzt werden – man stelle sich die Konsequenzen vor, wenn jemand einen Kim Jong-un fälschen würde, der den Abschuss von Atomraketen in Richtung USA verkündet.

Künstliche Intelligenz, die mit Abertausenden von Fotos gefüttert wurde, kann längst realistische Abbildungen von menschlichen Gesichtern erstellen – Gesichtern wohlgemerkt, die es in echt nicht gibt. Entsprechende Software für den breiten Markt ist in Entwicklung. Der Hersteller Adobe arbeitet an einer Art Photoshop für Audiodateien und an einem Tool, mit dessen Hilfe man einzelne Objekte aus Videos entfernen kann. Wie derartige Programme manipulierend eingesetzt werden können? Man benötigt nicht allzu viel blühende Fantasie, um es sich vorzustellen.

Bereits in Gebrauch sind Bots, die automatisiert Nachrichten zum Beispiel auf Twitter versenden. Im vergangenen Jahr haben Bots über eine Million Kommentare auf einer Website der Kommunikationsbehörde der USA hinterlassen, als es um die Netzneutralität ging. Diese Technologie, so fürchtet Ovadya, würde derzeit so weiterentwickelt, dass ganze Kampagnen von Bots durchgeführt werden – und somit gleichberechtigt mit Menschen um die Aufmerksamkeit der Legislative buhlen. Einfach, weil die künstliche Intelligenz dahinter so gut wird, dass Bot und Mensch nicht mehr auseinanderzuhalten sind.

Wenn man täuschend echte E-Mails von Freunden bekommt

Ein weiteres Phänomen, das Ovadya Sorgen bereitet, nennt sich Laser Phishing. Damit werden Online-Identitäten von Personen abgescannt und so glaubhaft imitiert, dass sie für Menschen kaum von der realen Person zu unterscheiden sein wird. Das könnte sich dann beispielsweise in einem Mail eines Kollegen ausdrücken, das zwar von einer Software erstellt ist, den Kollegen aber so perfekt imitiert, dass wir es nicht mehr vom Original unterscheiden können.

Begünstigt werden all diese Entwicklung dadurch, dass viele dieser Manipulationstechnologien auch als Software zu Verfügung gestellt werden dürften, die man mit wenig technischem Know-how bedienen kann. Die Manipulation würde somit quasi demokratisiert werden.

Das könnte am Ende so weit gehen, dass Internetnutzer angesichts der Masse an fingierten Inhalten im Netz aufgeben: Wo man nicht mehr zwischen Wahrheit und Lüge unterscheiden kann, schaut man am besten gar nicht mehr hin. Ovadya nennt das dann «Realitäts-Apathie». Dieses Aufgeben sieht er als einen destabilisierenden Faktor in unseren westlichen Demokratien.

Am Ende leiden auch authentische Quellen

Ausserdem könnte die Omnipräsenz von manipulierten Ton- und Videosequenzen dazu führen, dass es leichter wird, Zweifel an der Echtheit von Dokumenten zu schüren. Als Donald Trump behauptete, das sei nicht seine Stimme auf dem «Access Hollywood»-Tape (das Video, in dem der jetzige US-Präsident den berühmt-berüchtigten Ausspruch «grab them by the pussy» tätigte), wurde er verlacht. Künftig könnte ein solcher Hinweis ernster genommen werden – und so auch authentische Quellen diskreditieren.

Als Problem erweist sich dabei auch, dass die technische Entwicklung schneller vonstatten geht, als wir sie begreifen können – mit anderen Worten: Wir wissen oft gar nicht, wie uns geschieht.

Beunruhigend an Ovadyas düsteren Prognosen ist, dass sich kaum abschätzen lässt, wie sich die fraglichen Technologien entwickeln werden – und was für technische Möglichkeiten die Zukunft bereithalten. Ebenso ungewiss ist, wie Unternehmen, Forschung und Politik ethische Fragen in diesem Zusammenhang beantworten werden. (baz.ch/Newsnet)

Erstellt: 17.02.2018, 12:03 Uhr

Artikel zum Thema

Den Fake-News auf der Schliche

Ein neu entwickeltes Werkzeug soll Falschmeldungen in sozialen Netzwerken entlarven. Was es kann und wie es funktioniert. Mehr...

Das Immobilien-Portal für Basel und die Region

Kommentare

Die Welt in Bildern

Festival vereint die verschiedenen Kulturen des Landes: Eine Frau singt und tanzt bei einem Strassenfest in Südafrika in einem traditionellen Kleid. (14. Dezember 2018)
(Bild: Rajesh JANTILAL) Mehr...