Kann KI Nein sagen? Warum Guardrails keine Sicherheit bieten

👁 112 Aufrufe

Das MIT Technology Review hat eine ausführliche Analyse veröffentlicht, die verdeutlicht: Die Schutz- und Verweigerungsmechanismen moderner KI-Modelle sind von Natur aus probabilistisch - und können trotz Milliardeninvestitionen niemals eine verlässliche Sicherheitsgarantie bieten.

Das Dilemma des Sicherheitsprinzips bei Sprachmodellen

Den Ausgangspunkt markiert das Jahr 2021, als das Team von Anthropic den Grundsatz formulierte, dass Sprachmodelle hilfreich, ehrlich und vor allem harmlos sein sollten. Die Regel klang simpel: Bittet ein Nutzer um Hilfe beim Bau einer Bombe, soll die KI höflich ablehnen. Das Problem daran ist jedoch grundlegender Natur: Eine Verweigerung liegt Sprachmodellen nicht im Blut. Ein System, das mit Milliarden von Webseiten trainiert wird, eignet sich zwangsläufig umfassendes Wissen über Gewalt und zerstörerische Methoden an - lernt dabei aber nicht von selbst, dieses Wissen zurückzuhalten.

Steven Adler, der von 2020 bis 2024 in der Sicherheitsabteilung von OpenAI tätig war, brachte es auf den Punkt: Die frühesten Modelle des Unternehmens hätten schlicht „über jedes Thema geplappert“. Ryan McBain, der an der Harvard University zu KI und psychischer Gesundheit forscht, erinnert daran, dass frühe Chatbots noch völlig hemmungslos auf Fragen nach den effektivsten Suizidmethoden antworteten.

Wenn KI der KI das Neinsagen beibringt

Heute trainieren Technologieunternehmen ihre Modelle darauf, eine enorme Bandbreite heikler Anfragen abzuweisen - von Anleitungen zur Giftherstellung über Ratschläge zum Verschleiern von Affären bis hin zu Wegen, Krankheitserreger wie Ebola aggressiver zu machen. Dieser Prozess ist komplex: Die Modelle durchlaufen Trainingsserien, in denen sie für korrekte Ablehnungen belohnt und für das grundlose Blockieren harmloser Fragen bestraft werden. Das Paradoxon dabei: Vielfach leiten andere KI-Modelle dieses Training - künstliche Intelligenz bringt künstlicher Intelligenz bei, wie man Nein sagt.

„Einer KI beizubringen, diese Dinge abzulehnen, während man ihr die eingebaute Fähigkeit dazu belässt, ist, als würde man auf jedes Auto ein Maschinengewehr montieren und den Abzug irgendwo unter der Motorhaube verstecken.“

Dieses Zitat aus dem Text des MIT Technology Review bringt die Dimension des Problems auf den Punkt. Die Modelle verlernen das gefährliche Wissen nicht - der Zugang wird lediglich erschwert. Manche der neuesten Systeme agieren nach Angaben der Hersteller beim Überwinden von Sicherheitsbarrieren kritischer Infrastrukturen bereits auf dem Niveau von Spitzenhackern oder manipulieren die öffentliche Meinung so effektiv wie Desinformationsprofis.

Statistische Wahrscheinlichkeit statt echter Sicherheit

Die Entwickler räumen ein, dass Nutzer bereits versuchen, hochentwickelte Modelle zur Optimierung biologischer Krankheitserreger oder zum Aufbau autonomer Drohnenschwärme einzusetzen. Entschlossene Akteure hebeln die Schutzschranken schon heute aus - und werden dies laut der Analyse voraussichtlich auch in Zukunft können.

Ein weiteres Grundproblem ist die Logik der Grenzziehung: Es existiert kein Algorithmus, der zuverlässig zwischen legitimen und bösartigen Absichten unterscheidet. Ein Virologe, der an gefährlichen Viren forscht, benötigt dieselben Informationen wie ein anonymer Angreifer mit identischer Fragestellung.

Wenn Konzerne den Verweigerungsmechanismus als primäre Verteidigungslinie gegen schwerwiegende Risiken begreifen, bauen sie dieses Fundament auf statistischer Wahrscheinlichkeit auf - nicht auf Gewissheit.

// weiterlesenWarum der geforderte Kill Switch für KI mich mehr erschreckt als der HackTechnikIch habe einen Chatbot etwas Persoenliches gefragt - und begriffen, warum seine Ruhe gefaehrlich istTechnikIch habe genug von der Papierflut: Warum mehr Studien uns dümmer machenTechnik

Kinetyra