› Das MIT Technology Review hat eine ausführliche Analyse veröffentlicht, die verdeutlicht: Die Schutz- und Verweigerungsmechanismen moderner KI-Modelle sind von Natur aus probabilistisch - und können trotz Milliardeninvestitionen niemals eine verlässliche Sicherheitsgarantie bieten.Das Dilemma des Sicherheitsprinzips bei SprachmodellenDen Ausgangspunkt markiert das Jahr 2021, als das Team von Anthropic den Grundsatz formulierte, dass Sprachmodelle hilfreich, ehrlich und vor allem harmlos sein sollten.
› Die Regel klang simpel: Bittet ein Nutzer um Hilfe beim Bau einer Bombe, soll die KI höflich ablehnen.
› Das Problem daran ist jedoch grundlegender Natur: Eine Verweigerung liegt Sprachmodellen nicht im Blut.
› Ein System, das mit Milliarden von Webseiten trainiert wird, eignet sich zwangsläufig umfassendes Wissen über Gewalt und zerstörerische Methoden an - lernt dabei aber nicht von selbst, dieses Wissen zurückzuhalten.Steven Adler, der von 2020 bis 2024 in der Sicherheitsabteilung von OpenAI tätig war, brachte es auf den Punkt: Die frühesten Modelle des Unternehmens hätten schlicht "über jedes Thema geplappert".