Der deutsche Deepfake, den es (noch) nicht gab

👁 113 Aufrufe

Stellen wir uns einen Donnerstagabend im Herbst vor, irgendwann kurz vor einer Landtagswahl. Um 21:47 Uhr taucht in einem halböffentlichen Telegram-Kanal ein neunzehn Sekunden langes Video auf. Ein Spitzenkandidat, gut ausgeleuchtet, im vertrauten Sakko, spricht in eine Kamera und sagt einen Satz, den er nie gesagt hat. Die Stimme sitzt. Die Mundbewegungen sitzen. Das leichte Räuspern am Anfang, das man von ihm kennt, sitzt auch. Bis Mitternacht ist der Clip zweihunderttausendmal geteilt. Bis zum nächsten Morgen dementiert der Kandidat. Und genau in diesem Moment, in dem er dementiert, hat er schon verloren, ganz gleich, ob das Video echt war oder nicht.

Dieses Szenario ist hypothetisch. Aber es ist kein bisschen unrealistisch. Die Technik dafür existiert, sie ist billig, und sie liegt in Reichweite von jedem, der ein halbwegs aktuelles Grafikkartensystem und ein paar Stunden Geduld mitbringt. Die eigentliche Frage, die mich seit Monaten umtreibt, ist deshalb nicht, ob so etwas technisch geht. Die Frage ist, warum es in Deutschland bislang nicht den einen großen, wahlentscheidenden Deepfake-Skandal gegeben hat. Und ob unser kollektives Aufatmen darüber nicht der eigentliche Fehler ist.

Die Technik ist nicht mehr das Nadelöhr

Vor fünf Jahren brauchte man für ein überzeugendes Gesichtstausch-Video noch Rechenleistung, Trainingsmaterial in Massen und ein gewisses handwerkliches Verständnis. Ein Deepfake war ein Bastelprojekt für Menschen mit Zeit und Ambition. Heute ist er ein Produkt. Es gibt Dienste, in die man ein paar Minuten Audiomaterial hochlädt, und heraus kommt eine synthetische Stimme, die den Tonfall, die Sprechpausen und die charakteristischen Verschleifungen einer Person nachbildet. Für Politiker ist das Trainingsmaterial das denkbar bequemste: Es liegt frei im Netz. Stundenlange Reden, Talkshow-Auftritte, Pressekonferenzen, alles in HD, alles mit sauberem Ton.

Wer öffentlich spricht, liefert damit unfreiwillig das Rohmaterial für seine eigene Fälschung. Das ist die bittere Ironie der Transparenz: Je mehr ein Mensch dokumentiert ist, desto leichter lässt er sich klonen. Ein Hinterbänkler, von dem es kaum Videomaterial gibt, ist paradoxerweise schwerer zu fälschen als ein Kanzler.

Trotzdem, und das muss man ehrlich sagen, ist das perfekte Video noch immer schwierig. Die Details verraten die Fälschung: die Physik der Haare, die Art, wie Licht sich in feuchten Augen bricht, die Mikrobewegungen um den Mund bei bestimmten Konsonanten. Ein geübtes Auge, und noch besser ein geübtes forensisches Werkzeug, findet die Nähte. Aber, und hier liegt der Hund begraben, ein geübtes Auge schaut sich das Video um 21:47 Uhr am Wahlabend nicht an. Es schaut es sich am nächsten Vormittag an, wenn längst alle es gesehen und viele es geglaubt haben.

Ein Deepfake muss nicht perfekt sein. Er muss nur schneller sein als die Wahrheit und emotionaler als das Dementi.

Warum es Deutschland bislang verschont hat

Man könnte glauben, Deutschland sei durch irgendeine besondere Immunität geschützt. Das wäre ein Trugschluss. Ich sehe eher eine Kombination aus Zufall, Gelegenheitsstruktur und einer sprachlichen Hürde, die schrumpft.

Erstens die Sprache. Lange Zeit waren die besten Sprachsynthese-Modelle auf Englisch trainiert. Deutsch mit seinen langen Komposita, den harten Konsonantenclustern und den regionalen Färbungen war für die Maschinen ein sperriger Brocken. Ein synthetischer Kanzler klang schnell nach einem Navigationsgerät aus dem Jahr 2012. Diese Hürde ist im Verschwinden begriffen. Die aktuellen Modelle beherrschen Deutsch mittlerweile so gut, dass der Uncanny-Valley-Effekt bei der Stimme fast verschwunden ist. Wer heute noch auf den Roboter-Klang als Warnsignal hofft, hat den technischen Sprung der letzten anderthalb Jahre verpasst.

Zweitens die politische Kultur. Der deutsche Wahlkampf ist, verglichen mit dem amerikanischen, ein zäher, langsamer, thematisch getriebener Prozess. Es gibt selten diesen einen knappen, emotional aufgeladenen Moment, in dem ein einziges Video das Zünglein an der Waage sein könnte. Fragmentierte Parteienlandschaft, Koalitionslogik, ein Publikum, das Politik eher als Verwaltung denn als Spektakel wahrnimmt: Das alles macht den chirurgischen Schlag durch einen Deepfake weniger lohnend. Wer eine Wahl mit einem Video kippen will, braucht ein System, in dem einzelne Momente über alles entscheiden. Deutschland ist, noch, kein solches System.

Und drittens, das sage ich mit einem gewissen Unbehagen, ein Rest an Vertrauen in etablierte Medien. Wenn ein verdächtiges Video auftaucht, gibt es hierzulande noch einen halbwegs funktionierenden Reflex, erst einmal zu warten, was die Tagesschau oder eine große Zeitung dazu sagt. Dieser Reflex ist unser bester Schutz. Und er erodiert.

Die eigentliche Gefahr ist nicht die Fälschung, sondern der Zweifel

Hier kommt der Gedanke, der mich am meisten beschäftigt, und der in der öffentlichen Debatte fast immer zu kurz kommt. Wir starren gebannt auf das eine gefälschte Video und übersehen dabei, dass der viel größere Schaden gar keine Fälschung braucht.

Sobald jeder weiß, dass Videos gefälscht werden können, verliert das echte Video seine Beweiskraft. Ein Politiker, der bei etwas Kompromittierendem erwischt wird, muss die Aufnahme nicht mehr dementieren. Er muss nur noch sagen: „Das ist ein Deepfake.“ Und ein Teil des Publikums wird ihm glauben wollen, weil es ihm ohnehin schon glauben will. Fachleute nennen dieses Phänomen die „Lügner-Dividende“. Die bloße Existenz der Fälschungstechnologie zahlt sich für jeden aus, der die Wahrheit fürchtet.

Das ist die perfide Umkehrung. Wir haben Angst davor, dass uns Lügen als Wahrheit verkauft werden. Aber die subtilere, langfristig zersetzendere Gefahr ist, dass uns die Wahrheit als Lüge verkauft werden kann. Wenn nichts mehr als Beweis taugt, weil alles gefälscht sein könnte, dann zerfällt die gemeinsame Grundlage, auf der eine Demokratie überhaupt streiten kann. Man streitet nicht mehr über die Bewertung von Fakten. Man streitet darüber, ob es Fakten gibt.

Ich halte das für die stille Katastrophe hinter dem lauten Thema Deepfake. Der große Skandal-Fake macht Schlagzeilen. Die schleichende Entwertung jedes Beweismittels macht keine Schlagzeilen, weil sie kein Ereignis ist, sondern ein Klima.

Was ein deutscher Deepfake tatsächlich anrichten müsste

Wenn ich mir überlege, wie ein wirklich wirksamer politischer Deepfake in Deutschland aussehen würde, dann wäre es gerade nicht das spektakuläre Video eines Kanzlers, der etwas Ungeheuerliches sagt. Das wäre zu groß, zu leicht zu prüfen, zu schnell zu dementieren. Die gefährlichste Fälschung ist die langweilige, plausible.

Denken wir an eine Sprachnachricht, angeblich intern, angeblich geleakt, in der ein Regionalpolitiker in vertraulichem Ton etwas sagt, das genau zu dem passt, was man ihm ohnehin zutraut. Kein Weltuntergang, keine dramatische Enthüllung, nur eine Bestätigung bestehender Vorurteile. So etwas verbreitet sich lautlos in geschlossenen Gruppen, in Familien-Chats, in lokalen Foren. Es erreicht nie die große Bühne, auf der es widerlegt werden könnte. Es sickert. Und Sickern ist viel schwerer zu bekämpfen als ein Knall.

Der wirksame Deepfake ist regional, er ist niedrigschwellig, er ist auf ein Publikum zugeschnitten, das ihn glauben will. Er zielt nicht auf die ganze Republik, sondern auf einen Wahlkreis, in dem tausend Stimmen den Unterschied machen. In einem föderalen System mit unzähligen Kommunal- und Landtagswahlen gibt es dafür mehr Angriffsflächen, als jede Faktenprüfungsredaktion je abdecken könnte.

Was hilft, und was Illusion ist

Der Reflex des Gesetzgebers ist verständlich: Man will die Technik regulieren, Kennzeichnungspflichten einführen, Wasserzeichen vorschreiben. Das ist nicht falsch, aber es ist naiv, wenn man glaubt, es genüge. Ein Krimineller, der eine Wahl manipulieren will, wird sich nicht an eine Kennzeichnungspflicht halten. Wasserzeichen lassen sich entfernen. Und die Werkzeuge liegen längst außerhalb der Reichweite eines nationalen Gesetzes, irgendwo auf einem Server oder in einem Open-Source-Repository, das niemand abschalten kann.

Was tatsächlich hilft, ist unbequemer und langsamer. Es ist die Wiederherstellung dessen, was gerade erodiert: die Fähigkeit einer Gesellschaft, kollektiv innezuhalten, bevor sie teilt. Der wichtigste Schutzmechanismus gegen den Deepfake sitzt nicht in einem Detektor-Algorithmus, sondern zwischen den Ohren des Menschen, der um 21:47 Uhr entscheidet, ob er auf „weiterleiten“ klickt.

Die beste Deepfake-Abwehr ist eine Bevölkerung, die gelernt hat, mit dem Unbehagen des Nichtwissens zu leben, statt es durch schnelles Glauben aufzulösen.

Das ist keine technische, sondern eine kulturelle Aufgabe, und sie ist entsprechend schwer. Man kann Menschen keine Skepsis verordnen, und übertriebene Skepsis kippt schnell in Zynismus, in das bequeme „man weiß ja nie“, das am Ende jeden Faktencheck für genauso beliebig hält wie die Fälschung. Zwischen naivem Glauben und totalem Misstrauen liegt ein schmaler Grat, und auf diesem Grat muss eine Demokratie balancieren lernen.

Ich glaube, dass der große, historische deutsche Deepfake-Skandal noch kommt. Nicht weil ich Kassandra spielen will, sondern weil alle Voraussetzungen dafür reifen: die Technik ist da, die sprachliche Hürde fällt, das Medienvertrauen bröckelt, und die politische Temperatur steigt. Es ist eine Frage des Wann, nicht des Ob. Vielleicht wird es kein einzelnes Ereignis sein, an dem wir es festmachen können. Vielleicht werden wir erst rückblickend merken, dass sich irgendwann in diesen Jahren das Verhältnis zwischen Bild und Wahrheit stillschweigend umgekehrt hat.

Und das ist am Ende die verstörendste Erkenntnis: Wir warten auf das eine Video, das alles verändert. Dabei hat die Veränderung längst begonnen, ganz ohne dieses Video. Sie beginnt in dem Moment, in dem Sie ein echtes Bild sehen und zum ersten Mal, aus reiner Gewohnheit, denken: Ob das wohl stimmt?

// weiterlesenNicht die Jäger, sondern die Bäuerinnen: Wie Frauen die Landwirtschaft nach Nordwesteuropa brachtenArchäologieChinas gescheiterter „Fluss am Himmel“: Warum wir Wolken nicht einfach anzapfen könnenKlimaNicht nur Appetitzügler: Wie GLP-1-Medikamente Impulsivität und emotionale Muster verändernGeist

Kinetyra