7600 Facebook-Anzeigen für Deepfake-Nacktbilder: Die Kosten

👁 113 Aufrufe

Die Geschichte klingt nach einem Einzelfall, aber die Zahlen sprechen eine andere Sprache. Ein Konto, das WIRED auf Facebook und Instagram identifizierte, schaltete 32 Anzeigen für eine App, mit der man das Foto einer realen Person hochladen und ihr Gesicht in eine generierte sexuelle Szene einfügen kann. Alle 32 Kreationen waren ausschließlich auf Männer ausgerichtet. Keine überschritt zehn Impressionen - was beruhigend klingt, bis man rechnet: 32 Anzeigen mit maximal 10 Aufrufen ergeben höchstens 320 Kontakte mit der Botschaft, also eine mikroskopisch kleine Kampagne, die dennoch Metas Prüfung passierte. Die Seite des Werbetreibenden wurde am 3. August erstellt und hatte nicht einen einzigen Follower. Das hinderte ihn nicht daran, bezahlte Werbung zu schalten.

Was ein gefälschtes Nacktbild kostet

Wir haben die Preislisten von Apps dieser Kategorie geprüft, die noch im offenen Netz zu finden sind. Das Geschäftsmodell ist überall dasselbe: monatliches Abo zwischen 10 und 30 Dollar oder Kreditpakete, bei denen eine Generierung 2 bis 10 Credits kostet und ein Paket mit 100 Credits etwa 10 Dollar kostet. Ein monatliches Abo für 19,99 Dollar, das hundert Generierungen erlaubt, bedeutet Kosten von 20 Cent pro gefälschtem Nacktbild. Im Kreditmodell, bei 10 Dollar für hundert Credits und fünf Credits pro Bild, ergeben sich 10 Dollar für zwanzig Bilder, also 50 Cent pro Stück.

Das ist die wichtigste Zahl in dieser ganzen Angelegenheit, und wir haben sie in keiner deutschsprachigen Berichterstattung gefunden. Die Produktion von Material, das jemandes Ruf in der Schule, am Arbeitsplatz oder vor dem Familiengericht zerstören kann, kostet weniger als eine Tasse Kaffee. Zum Vergleich: Für den Preis eines Cappuccino in einer deutschen Großstadt kann man zwischen vier und zehn solcher Bilder generieren.

Die andere Seite dieser Rechnung betrifft das Werbevolumen. Das Tech Transparency Project stellte fest, dass Konten, die mit einem chinesischen Unternehmen verbunden sind, 7600 Anzeigen für solche Apps schalteten, die auf Europa ausgerichtet waren. Von 210 untersuchten Seiten hatten 179 Anzeigen wegen Regelverstößen entfernt bekommen, das sind 85,2 Prozent. Wir haben diese beiden Zahlen verglichen: 7600 Anzeigen verteilt auf 210 Seiten ergeben durchschnittlich 36,2 Kreationen pro Seite - genau dieselbe Größenordnung wie die 32 Anzeigen des von WIRED beschriebenen Kontos. Mit anderen Worten: Der beschriebene Fall ist keine Ausnahme, sondern ein statistisch typisches Element einer industriell betriebenen Operation.

Moderationseffektivität liegt bei 85 Prozent, aber die 15 zählen

Meta erklärt, jede Anzeige vor Veröffentlichung zu prüfen. In der Praxis machen das Automaten, und Werbetreibende umgehen sie mit einem banalen Trick: Die ersten Sekunden des Materials sind harmlos, der eigentliche Inhalt erscheint später. Aus den TTP-Daten geht hervor, dass 31 von 210 Seiten nie eine entfernte Anzeige hatten, und einige kehrten nach früheren Sperrungen zur Werbung zurück. Bei 7600 Kreationen lässt selbst eine Effektivität von 85 Prozent etwa 1125 Anzeigen durch. Bei durchschnittlich zehn Impressionen pro Kreation sind das 11.250 Kontakte mit dem Angebot, fremde Nacktheit zu generieren - und das nur im Rahmen einer einzigen identifizierten Operation.

Apple entfernte eine solche App aus seinem Store, wo sie sich als Fotobearbeitungstool ausgab und nach Zahlung sexuelle Szenarien öffnete. Das Unternehmen erklärt, dass „unzulässige Funktionen nach der Prüfung hinzugefügt worden sein könnten“. Diese Erklärung zeigt die Schwäche des gesamten App-Store-Modells: Geprüft wird der Code zum Zeitpunkt der Einreichung, nicht das, was der Server dem Nutzer drei Wochen später liefert.

Was die Kennzeichnung synthetischer Inhalte bringt

Seit dem 2. August 2026 gelten die Bestimmungen der Verordnung 2024/1689 (AI Act) zur Transparenz, einschließlich Art. 50, der die maschinenlesbare Kennzeichnung von Deepfake-Inhalten vorschreibt. Strafen für Verstöße gegen Transparenzpflichten erreichen 15 Millionen Euro oder 3 Prozent des weltweiten Umsatzes. Das Problem ist, dass die Operation mit 7600 Anzeigen von einem Unternehmen außerhalb der EU durchgeführt wurde, das eine über den Browser zugängliche App bewirbt, ohne jegliche Vertretung in Europa. Eine Sanktion gegen ein Subjekt, das sich nicht lokalisieren lässt, ist eine Zahl in einem Dokument, keine Konsequenz.

Der reale Druckpunkt bleibt also der Vermittler. Meta unterliegt als sehr große Plattform dem Digital Services Act, wo die Höchststrafe 6 Prozent des globalen Umsatzes beträgt. Bei Metas Einnahmen von etwa 164 Milliarden Dollar für 2024 ergibt das eine theoretische Obergrenze von 9,84 Milliarden Dollar. Das ist eine Zahl, die die Kalkulation der Moderationsabteilung ändern könnte, im Gegensatz zur Verfolgung eines anonymen Werbetreibenden mit einem am 3. August erstellten Konto.

Es bleibt noch eine Folge, die keine Regulierung reparieren wird. Wenn die Generierung einer gefälschten Aufnahme 20 Cent kostet, lässt sich jede echte Aufnahme mit dem Satz „das ist ein Deepfake“ anzweifeln, und umgekehrt. Solange die Kennzeichnung der Quelle nicht in aufzeichnende Geräte eingebaut ist und nicht nur von Generatoren verlangt wird, haben beide Seiten dieses Streits 20-Cent-Argumente.

Fakten geprüft am 20. September 2026. Quellen: Tech Transparency Project, WIRED, Verordnung 2024/1689, StopNCII.org. Eigene Berechnungen. Wir haben die Tests in polnischer Sprache durchgeführt.

// weiterlesenGPT-6 Sol Preis: Kosten pro Million Tokens und im MonatMagazinSuno v6: Kosten und Preismodell im ÜberblickMagazinDas teuerste Wort ist "kostenlos"Magazin

Kinetyra