KI-Wörterbuch / Alignment

🏗️ Modelle und Training

Alignment (Ausrichtung) ist der Sammelbegriff für Bemühungen, die Ziele und Verhaltensweisen von KI mit menschlichen Absichten und Werten in Einklang zu bringen - damit das Modell hilfreich, ehrlich und unschädlich ist, auch in Situationen, die die Entwickler nicht vorhergesehen haben. In der Praxis ist das eine Kombination aus Trainingstechniken (wie RLHF), Sicherheitsvorkehrungen und Robustheitstests. In der Debatte über die Zukunft der KI bedeutet Alignment auch die breitere Frage: Wie stellen wir sicher, dass immer mächtigere Systeme das tun, was wir wirklich wollen - und nicht das, was ein schlecht formuliertes Ziel buchstäblich vorgibt.