KI-Wörterbuch / Guardrails

🛡️ Sicherheit und Qualität

Guardrails (Leitplanken) sind Sicherheitsvorkehrungen, die das Verhalten des Modells einschränken: ein Set aus Regeln, Filtern und Trainingstechniken, die schädliche, illegale oder einfach nicht zweckgemäße Inhalte verhindern sollen. Deswegen verweigert das Modell Anleitungen zum Einbruch oder Ratschläge, wie man jemandem schadet. Leitplanken wirken auf mehreren Ebenen: im Training (das Modell lernt zu verweigern), in System-Prompts und in externen Filtern, die Ein- und Ausgabe prüfen. Ihre Kalibrierung ist ein ewiger Kompromiss - zu locker lassen sie Schäden durch, zu eng verweigern sie harmlose Anfragen.