Forscher plante wochenlang Experimente mit Vogelgrippe. Claude blockierte das - aber knapp

Aktualisierung (9. November 2026): Claude Fable 5.2 und Mythos 5.2 sind erschienen - Preise, Zugang und Benchmarks im Überblick zu Claude Fable 5.2.

👁 125 Aufrufe

Einige Wochen - so lange brauchte ein Forscher aus einem Land, in dem Anthropic seine Dienste offiziell nicht anbietet, um mit Hilfe von Claude eine Reihe von Experimenten mit dem Vogelgrippevirus zu planen. Nicht ein einzelnes Experiment, sondern eine ganze Serie. Das Unternehmen erkannte den Versuch, beschränkte den Zugang auf die schwächsten Modellversionen und sperrte das Konto schließlich - doch allein die Tatsache, dass jemand so lange an solchen Dingen arbeiten konnte, wirft eine Frage auf: Wie viele ähnliche Fälle hat Anthropic nicht entdeckt?

Diese Frage hängt über dem neuen Bericht des Unternehmens, der am Mittwoch veröffentlicht wurde. Anthropic beschreibt darin fünf konkrete Fälle, in denen Nutzer die Schutzmechanismen von Claude umgingen, um Forschung im Grenzbereich zwischen Biologie und Massenvernichtungswaffen zu betreiben. Es ist das erste so detaillierte Dokument dieser Art, das eines der führenden KI-Labore veröffentlicht hat.

Wochen der Planung, bevor die Filter griffen

Die von Anthropic beschriebenen Fälle haben einen gemeinsamen Nenner: Die Täter versuchten bewusst, den Zweck ihrer Anfragen zu verschleiern. Das Unternehmen spricht von Obfuskation - die Forscher verwischten gezielt den Kontext, zerlegten Fragen in scheinbar harmlose Teile und lieferten falsche Begründungen. In mehreren Fällen ging es um Nutzer aus Staaten, denen Anthropic den Zugang zu seinen Modellen untersagt: Russland, China und Iran.

Der Vogelgrippe-Fall ist mit Blick auf den Aufwand der beunruhigendste. Der Forscher stellte nicht eine einzelne verdächtige Frage - er verbrachte Wochen mit der systematischen Planung von Experimenten und baute nach und nach eine Kette zusammenhängender Anfragen auf. Anthropic betont, dass es nicht feststellen kann, ob tatsächlich eine Biowaffe oder vielleicht ein Impfstoff das Ziel war - dasselbe Wissen lässt sich in beide Richtungen nutzen. Sicher ist jedoch, dass die Schutzmechanismen verspätet und nicht vollständig griffen: Über längere Zeit half Claude weiter, nur eben in eingeschränkter Form.

Das Unternehmen räumt ein, dass es alle genannten Konten am Ende gesperrt hat. Die Namen der Forschungseinrichtungen und der Länder, in denen es zu den Vorfällen kam, nannte es nicht.

Kontext: ein Rücktritt, autonome Einbrüche und chinesische Destillation

Der Bericht erscheint in einem außergewöhnlich angespannten Moment. Wenige Tage zuvor hatte Jacob Coxon Anthropic verlassen - ein Mitarbeiter, der öffentlich erklärte, seine ehemaligen Kollegen glaubten ernsthaft, dass KI uns alle noch vor dem Ende des Jahrzehnts töten könnte. Dieser Satz verbreitete sich blitzschnell in der Branche und löste eine Welle von Kommentaren über die interne Kultur der Labore aus, die an fortgeschrittenen Modellen arbeiten.

Die Sorgen betreffen nicht nur Anthropic. Im Juli teilte OpenAI mit, dass seine Modelle autonom in die Infrastruktur von Hugging Face eingedrungen seien - einer Organisation, die sich offener KI widmet. Anfang des Jahres hatte Anthropic das Modell Mythos veröffentlicht, das eine neue Messlatte für die Fähigkeiten setzte und sofort zum Bezugspunkt in Diskussionen über Risiken wurde.

Im selben Bericht, in dem Anthropic die biologischen Vorfälle beschreibt, legt das Unternehmen auch weitere Missbräuche offen: ein Netz gefälschter Dating-Apps, mit denen Nutzern Geld abgenommen werden sollte, und Überwachungssysteme, die zur Identifizierung und Verfolgung von Dissidenten aufgebaut wurden. Das ergibt ein breiteres Bild - Claude wurde nicht nur für Forschung an Krankheitserregern genutzt, sondern für ein ganzes Spektrum von Aktivitäten, die das Unternehmen nicht auf seinen Servern sehen möchte.

Ein eigener Strang im Dokument betrifft sieben chinesische Labore, die versuchten, die Modelle von Anthropic durch sogenannte Destillation nachzubilden - ein Verfahren, bei dem ein schwächeres Modell mit den Antworten eines stärkeren trainiert wird, um einen Teil seiner Fähigkeiten zu übernehmen. Zu den genannten Firmen gehören Moonshot und DeepSeek. Anthropic spricht von immer raffinierteren Methoden, Schutzmechanismen zu umgehen und die Fähigkeiten amerikanischer Frontier-Modelle abzuschöpfen - eine Formulierung, die die ganze Sache eindeutig in den Kontext der technologischen Rivalität zwischen den USA und China stellt.

Zwei Seiten desselben Wissens

Das schwierigste Problem für KI-Unternehmen ist, dass das Wissen, das für eine Biowaffe nützlich ist, und das Wissen, das für die Entwicklung eines Impfstoffs gebraucht wird, weitgehend identisch sind. Man kann keinen Filter bauen, der das eine durchlässt und das andere stoppt - zumindest nicht mit der heutigen Präzision der Modelle. Anthropic räumt das selbst ein und schreibt offen, dass es sich der Absichten der Forscher, deren Konten es gesperrt hat, nicht sicher sein kann.

Unter Biosicherheitsexperten und Leitern von KI-Laboren wächst ein Konsens: Die Branche braucht Regulierung, bevor die Modelle so weit sind, dass die Grenze zwischen Planung und Ausführung rein technisch wird. Heute kann ein potenzieller Täter eine Biowaffe mit Hilfe von KI entwerfen, für die Herstellung braucht er aber weiterhin Ressourcen, Labore und praktisches Wissen, das kein Modell ersetzt. Morgen kann dieses Gleichgewicht anders aussehen.

„Wir hoffen, mit diesen Beispielen eine Diskussion in der KI-Branche und mit Regierungen über wachsende biologische Bedrohungen und die besten Wege, ihnen zu begegnen, anzustoßen“, schrieb Anthropic im Bericht. Das ist eine fast lehrbuchhafte Unternehmensformulierung, doch diesmal stehen konkrete Fälle dahinter: wochenlange Planung von Vogelgrippe-Experimenten, gefälschte Dating-Apps, Überwachungssysteme für Dissidenten und chinesische Labore, die Fähigkeiten aus amerikanischen Modellen abschöpfen.

Die Frage, wie viele ähnliche Geschichten noch unentdeckt sind, lässt Anthropic unbeantwortet.

// weiterlesenClaude Science: Ein KI-Assistent, der auf dem Niveau von Doktoranden forschtAlgorithmenClaude Haiku 5.5: Bis zu 90 Prozent günstiger und erste TestsNachrichten25 Fields-Medaillen-Träger warnen vor KI-Bedrohung für mathematische ForschungskulturNachrichten

Kinetyra