› August 2026 haben Haoyu Zhang, Haowen Xu, Xiao Luo, Mohammad Zandsalimy und Shanu Sushmita auf arXiv ein Paper veröffentlicht, das ich für methodisch brisant halte.
› Der Titel lautet "Refusal without Discrimination: What Encoded Prompts Do to Safety-Trained Models", und er beschreibt ein Problem, das mitten im Herzen der KI-Sicherheitsmessung sitzt.
› Was gemessen wird - und was das bedeutet Der übliche Ansatz in sogenannten Encoded-Prompt-Benchmarks ist einfach: Man schickt einem Modell schädliche Anfragen in verschlüsselter oder verschleierter Form - etwa mit Homoglyphen, also Zeichen, die normalen Buchstaben ähneln - und schaut, wie oft das Modell trotzdem antwortet statt abzulehnen.
› Wie oft das Modell ablehnt, gilt als Maß für seine Sicherheit.