Jailbreak
Versuch, die Sicherheitsvorkehrungen des Modells mit einem clever konstruierten Prompt zu umgehen.
Jailbreak ist der Versuch, die Sicherheitsvorkehrungen des Modells mit einem clever konstruierten Prompt zu umgehen: Rollenspiele, hypothetische Szenarien, mehrfache Umformulierungen - alles, damit das Modell etwas tut, was es gemäß den Regeln nicht tun sollte. Zwischen Entwicklern von Sicherheitsvorkehrungen und denen, die sie brechen, läuft ein ständiges Wettrennen; veröffentlichte Tricks funktionieren schnell nicht mehr, neue tauchen auf. Für Unternehmen, die KI einsetzen, ist die praktische Folgerung: Man sollte nicht annehmen, dass die Leitplanken des Modells unüberwindbar sind - kritische Beschränkungen müssen auch außerhalb des Modells durchgesetzt werden.