KI-Wörterbuch / RLHF
🏗️ Modelle und Training
RLHF
Training des Modells anhand menschlicher Bewertungen von Antworten - dadurch wird es hilfreich, statt nur „Text vorherzusagen".
RLHF (Reinforcement Learning from Human Feedback) ist eine Trainingsphase, in der das Modell aus menschlichen Bewertungen lernt: Menschen vergleichen verschiedene Modellantworten, markieren die besseren, und der Algorithmus passt das Modell so an, dass es häufiger die bevorzugten generiert. Gerade RLHF und verwandte Techniken haben aus rohen „Textvorhersagern" hilfreiche Assistenten gemacht, die Fragen beantworten statt sie fortzusetzen, schädliche Anfragen ablehnen und einen höflichen Ton wahren. Der Preis ist manchmal, dass das Modell übermäßig gefällig wird und dem Nutzer nach dem Mund redet.
Verwandte Begriffe