Halluzination
Situation, in der ein Modell mit Überzeugung Unwahrheiten liefert - erfundene Daten, Zitate, Quellen. Daher Fakten prüfen.
Halluzination ist eine Situation, in der das Modell mit voller Überzeugung Unwahrheiten liefert: erfundene Daten, nicht existierende Bücher, fabrizierte Zitate oder Rechtsvorschriften. Es ist keine „Lüge" - das Modell kennt den Begriff der Wahrheit nicht, es generiert statistisch wahrscheinlichen Text, und wahrscheinlich ist manchmal falsch. Halluzinationen sind die Hauptschwäche von Sprachmodellen in faktografischen Anwendungen. Grounding und RAG, Modi mit Suche sowie die Bitte um Quellen schränken sie ein - aber keine Technik eliminiert sie vollständig. Praktische Regel: Je wichtiger die Entscheidung, desto gründlicher die Antwort prüfen.