Anthropic blockierte Biowaffen, russische Hacker und chinesische Missbräuche - jetzt spricht es laut darüber

👁 121 Aufrufe

Jahrelang sprach die KI-Branche hypothetisch über Bedrohungen. Anthropic hat gerade gezeigt, dass ein Teil dieser Hypothesen bereits Realität ist - und detailliert beschrieben, wie es diese aufgehalten hat.

W opublikowanym w czwartek Bedrohungsbericht dokumentiert das Unternehmen acht Monate böswilliger Nutzung seiner Claude-Modelle. Dies ist keine akademische Risikoübersicht, sondern ein konkreter Katalog von Vorfällen: biologische Waffen, mit Russland verbundene Hacker, chinesische Versuche zum Diebstahl von KI-Fähigkeiten und Software für Drohnen sowie Raketen, entwickelt von Akteuren aus dem Jemen. Das Ausmaß und die Vielfalt dieser Missbräuche sind das Erste, was beim Lesen des Dokuments auffällt.

Labor unter dem Deckmantel eines VPN

Beginnen wir mit dem Ernstesten. Anthropic befürchtet seit langem, dass Sprachmodelle eines Tages die Zugangsschwelle zu Massenvernichtungswaffen senken könnten. Dieser Tag - zumindest in einer Testversion - ist offenbar bereits gekommen.

Das Unternehmen dokumentierte fünf Fälle, in denen Wissenschaftler Claude auf eine Weise nutzten, die die Entwicklung von Biowaffen unterstützen könnte. In einem davon nutzte ein Forscher aus einer Region, in der Anthropic keine Dienste anbietet - und die Liste dieser Orte umfasst Russland, China und Nordkorea - das Modell wochenlang über eine VPS-Infrastruktur, um Experimente zur Anpassung der Vogelgrippe an Säugetiere zu planen. Das ist keine Abstraktion aus einem Science-Fiction-Roman: Es handelt sich um einen konkreten Menschen, einen konkreten Krankheitserreger und eine konkrete Umgehung geografischer Sperren.

Anthropic sperrte die Konten und integrierte die Erkenntnisse in das Sicherheitssystem der Frontier-Modelle. Es gab jedoch weder die Institutionen, Länder noch die spezifischen biologischen Agenzien bekannt. Das ist verständlich - aber auch frustrierend für diejenigen, die wissen möchten, wie knapp es wirklich war.

Hacker mit einer Multi-Agenten-Armee

Parallel dazu beschreibt das Unternehmen ein Phänomen, das den Charakter der Cyberkriegsführung verändert. Ein traditioneller Hacker stellt der KI eine Frage und erhält eine Antwort. Was Anthropic beobachtet hat, ist qualitativ anders.

„Der Einsatz von KI ging über einfache Fragen und Antworten mit einem Chatbot hinaus - er umfasste die Anwendung von Multi-Agenten-Frameworks“, heißt es in dem Bericht.

Eine der Hackergruppen, die das Unternehmen mit Russland in Verbindung bringt, führte koordinierte Operationen gegen ukrainische Beamte durch: Phishing, Abfangen von Verbindungen in Hotel-WLAN-Netzwerken und Übernahme von WhatsApp-Konten. Menschen fungierten als Aufseher, nicht als direkte Ausführende. KI wurde zum operativen Kern des Angriffs - nicht nur zum Helfer.

Das ist eine Veränderung, deren Konsequenzen die Cybersicherheitsbranche erst zu verstehen beginnt. Die Kosten für die Durchführung einer komplexen Cyberspionage-Operation sind gerade drastisch gesunken.

Drony, rakiety i efekt skali

Jacob Klein, Leiter der Bedrohungsanalyse bei Anthropic, sagte gegenüber Reuters unverblümt:

„Vor einem Jahr, wenn Sie eine Drohne oder Raketensoftware optimieren wollten, waren die Modelle bei dieser Aufgabe einfach nicht so gut wie jetzt.“

Dieser Satz ist es wert, innezuhalten. Er beschreibt keine ferne Zukunft - er beschreibt eine Veränderung, die in den letzten zwölf Monaten stattgefunden hat. Akteure aus China, Russland und dem Jemen nutzten Claude zur Entwicklung von Software für Drohnen, Raketen, Bomben und Leitsysteme. Das Unternehmen klassifiziert dies als „neue Kategorien von Bedrohungsakteuren“ - was im Jargon von Sicherheitsberichten bedeutet: Das haben wir bisher nicht gesehen.

Chinesische Konkurrenz auf anderem Weg

Ein separater Strang des Berichts betrifft chinesische Unternehmen. Es geht hier nicht um staatliche Hacker oder Waffen - es geht um etwas Subtileres: Versuche, in die Systeme von Anthropic einzudringen, um die Fähigkeiten der Claude-Modelle zu extrahieren. Marktwettbewerb mit Methoden der Industriespionage. In einer Branche, in der Modellparameter ein Milliarden schweres Geschäftsgeheimnis sind, ist das ein logischer Schritt - wenn auch kein legaler.

Der Bericht als politisches Signal

Warum veröffentlicht Anthropic diese Daten jetzt, in dieser Form und mit dieser Detailtiefe? Das Unternehmen spricht sich seit Monaten für KI-Regulierungen aus und der Bericht fügt sich in eine breitere Kommunikationsstrategie ein - den Gesetzgebern zu zeigen, dass die Bedrohungen real, messbar und bereits im Gange sind. In derselben Woche warnten zwei Forscher von Anthropic öffentlich, dass sich schnell entwickelnde KI eine existenzielle Bedrohung für die Menschheit darstellen könnte. Die Koinzidenz erscheint nicht zufällig.

Das ist kein Zynismus - das ist Realpolitik. Ein Unternehmen, das einige der mächtigsten Modelle der Welt entwickelt, hat ein Interesse daran, dass Regulierungen entstehen, bevor der Markt außer Kontrolle gerät. Die eigenen Misserfolge und Erfolge bei deren Verhinderung zu zeigen, ist eine Möglichkeit, an diesem Gespräch aus einer Position der Autorität teilzunehmen und nicht nur als Lobbyist.

Das Problem ist, dass der Bericht - so seriös er auch sein mag - das beschreibt, was bereits blockiert wurde. Über das, was unbemerkt durchging, schreibt niemand.

// weiterlesenWas der Antarktische Eisschild jetzt über den Meeresspiegel von morgen verrätKlimaMit KI auf Werkstoffjagd: Warum die Materialforschung jetzt durchstartetTechnologieFentanyl-Impfstoff blockiert Überdosen: Wie das Immunsystem Designer-Drogen unschädlich machtMedizin

Kinetyra