Kontextfenster
Wie viel Text das Modell „auf einmal sieht". Größeres Fenster = Sie können längere Dokumente einfügen.
Das Kontextfenster ist die maximale Textmenge (in Token gemessen), die das Modell „gleichzeitig sieht": Ihren Prompt, eingefügte Materialien, den bisherigen Gesprächsverlauf und die eigene Antwort. Was nicht hineinpasst, kennt das Modell schlicht nicht - daher das „Vergessen" am Anfang langer Unterhaltungen. Heutige Fenster erreichen Hunderttausende, bei manchen Modellen sogar eine Million Token, was das Einfügen ganzer Bücher oder Code-Repositories ermöglicht. In der Praxis ist die Arbeitsqualität bei sehr langen Kontexten jedoch ungleichmäßig - wichtige Informationen platziert man besser am Anfang oder Ende des Materials.