RAG
Die Verbindung des Modells mit einer Wissensbasis - die KI sucht erst Fakten, dann antwortet sie. Weniger Halluzinationen.
RAG (Retrieval-Augmented Generation) ist eine Architektur, die ein Sprachmodell mit einer externen Wissensbasis verbindet: Bevor das Modell antwortet, sucht das System passende Dokumentfragmente und fügt sie dem Prompt hinzu. Das Modell antwortet auf Basis der gelieferten Fakten, nicht nur aus dem Trainingsgedächtnis. Das ist die Standardmethode zum Aufbau firmeneigener Assistenten und Bots auf Basis eigener Dokumente: weniger Halluzinationen, aktuelles Wissen ohne erneutes Training und die Möglichkeit, Quellen anzugeben. Die RAG-Qualität hängt hauptsächlich von der Suchqualität ab - das Modell kann nicht korrigieren, dass es falsche Fragmente bekommen hat.