Anthropic reports nearly 200 million distillation attacks from Alibaba, Moonshot AI and DeepSeek

👁 112 Aufrufe

Anthropic hat am Donnerstag in einem neuen Bericht dokumentiert, dass fünf separate Distillationskampagnen chinesischer KI-Unternehmen insgesamt fast 200 Millionen Konversationen mit Claude erzeugt haben - die bislang umfangreichsten derartigen Angriffe, die das Unternehmen je verzeichnet hat.

Den größten Anteil hatte eine Kampagne, die Anthropic Alibaba zuschreibt: Zwischen Mai und Juli 2026 wurden 151 Millionen Austausche über 3.500 verschiedene Konten registriert, mit Spitzenwerten von knapp drei Millionen Anfragen pro Tag. Da alle Konten denselben festen Prompt verwendeten, geht Anthropic von einer koordinierten Aktion zur Gewinnung von Trainingsdaten für Alibabas Qwen-Modellfamilie aus. Bei Distillationsangriffen geht es darum, die Denkkette eines Modells zu extrahieren und damit kleinere Modelle per Supervised Fine-Tuning zu trainieren. Anthropic zeigt Nutzern normalerweise nur zusammengefasste Denkblöcke - die Angreifer fanden jedoch Wege, die vollständigen Denkketten offenzulegen, etwa durch getarnte Übersetzungsanfragen auf Katakana-Japanisch.

Eine zweite Kampagne, die Moonshot AI zugerechnet wird, richtete sich laut Bericht vorrangig gegen Claudes Opus-Modell: Innerhalb von zehn Tagen liefen knapp 300.000 Anfragen über ein Netzwerk von 5.000 Konten - darunter Anfragen zur Analyse von Überwachungskamera-Material auf abnormales Verhalten, die Anthropic zufolge direkt vom chinesischen Militär stammten. Das Unternehmen hatte bereits im Februar öffentlich vor Distillationsangriffen gewarnt; die nun dokumentierten Kampagnen seien jedoch deutlich größer und aggressiver als frühere Vorfälle.

// weiterlesenWarum ein 150 Millionen Jahre alter Stegosaurier-Schädel die Stammbaum-Forschung auf den Kopf stelltArchäologieWarum die Antarktis vor einer Million Jahren plötzlich kippte - und was das für uns bedeutetKlimaWie ein 380 Millionen Jahre alter Fisch aus der Antarktis den Weg an Land vorzeichneteBiologie

Kinetyra