Was ist eine KI-Halluzination und wie lässt sie sich reduzieren?

Eine Halluzination ist eine Antwort, die sicher und plausibel klingt, aber falsch ist oder sich auf keine Quelle stützt: ein erfundenes Zitat, eine Studie, die es nicht gibt, ein falsches Datum oder ein falscher Preis. Das Modell lügt nicht absichtlich. Es erzeugt die wahrscheinlichste Fortsetzung des Textes und rät oft, wenn es etwas nicht weiß.

In einem Paper vom September 2025 argumentieren Forscher von OpenAI, dass Training und Bewertung das Raten belohnen und das Eingestehen von Unsicherheit nicht, ähnlich wie eine Prüfung, die für „weiß ich nicht“ keine Punkte gibt.

Was Halluzinationen in der Praxis verringert:

• dem Modell ausdrücklich erlauben zu sagen, dass es etwas nicht weiß;
• den Quelltext mitgeben und verlangen, nur daraus zu antworten;
• bei langen Dokumenten zuerst wörtliche Zitate anfordern, dann die Analyse;
• für jede Aussage eine Quelle verlangen und Aussagen ohne Quelle streichen;
• Namen, Zahlen und Daten vor dem Veröffentlichen selbst prüfen.

Websuche und RAG helfen, verlagern das Problem aber auf die Qualität der Quellen, statt es zu lösen.