Model Collapse: Warum KI ohne menschliche Gedanken die Realität verliert

Zwei Worte in einem aktuellen Paper ließen die Forschungsgemeinschaft aufhorchen: „Model Collapse“. Was zunächst nach einem technischen Randproblem klingt, beschreibt in Wirklichkeit eine schleichende Erosion der Wirklichkeit. Wenn KI-Modelle zunehmend mit Inhalten trainiert werden, die sie selbst erzeugt haben, verlieren sie den Kontakt zu den ursprünglichen, von Menschen geschaffenen Daten. Die KI wird nicht dümmer - sie wird selbstbezüglich und driftet langsam von der Realität ab, die sie abbilden soll. Das Brisante daran: Der Treibstoff, der diesen Kollaps verhindert, ist ausgerechnet das, was wir durch KI zu ersetzen drohen - der eigenwillige, unberechenbare menschliche Geist.

Der Fluch der Rekursion: Wenn die KI sich selbst verdaut

Das Phänomen des „Model Collapse“ wurde von Forschern aus Oxford und Cambridge detailliert beschrieben. In ihrem Paper zeigten sie, was passiert, wenn große Sprachmodelle über mehrere Generationen hinweg mit synthetischen Daten trainiert werden, die von vorherigen KI-Generationen stammen. Das Ergebnis ist ein unaufhaltsamer Informationsverlust. In jeder neuen Trainingsrunde werden die seltensten und ungewöhnlichsten Datenpunkte - die sogenannten „Ränder der Verteilung“ - als Erstes abgestoßen. Was übrig bleibt, ist das Durchschnittliche, das Erwartbare. Die nächste KI-Generation wird mit diesem verengten Datensatz trainiert, und der Zyklus wiederholt sich. Die Forscher beschrieben das Endstadium dieses Prozesses mit einem ebenso präzisen wie beunruhigenden Satz: Die Modelle beginnen, die Realität „fehlzuwahrzunehmen“ (misperceive reality).

Dieser Effekt ist keine Halluzination im klassischen Sinne, bei der ein Modell eine falsche Jahreszahl oder eine erfundene Quelle ausgibt. Solche Fehler sind punktuell und oft korrigierbar. Der „Model Collapse“ ist systemischer. Er beschreibt eine KI, die in ihrer Gesamtheit zunehmend den Bezug zur faktischen Grundlage verliert, dabei aber völlig selbstsicher und flüssig kommuniziert. Das Paper stellt unmissverständlich klar, dass echte, von Menschen generierte Inhalte in diesem Szenario nicht nur kulturell wertvoll bleiben, sondern zu einer technischen Notwendigkeit werden. Ohne einen konstanten Zustrom originärer menschlicher Daten kollabiert das System.

Was verloren geht: Die Ränder als Brutstätten des Neuen

Die „Ränder der Verteilung“ sind mehr als nur statistische Ausreißer. Sie sind der Ort, an dem intellektueller Fortschritt entsteht. Jede bahnbrechende Idee begann als Anomalie, als ein Gedanke, der so weit vom damaligen Durchschnitt entfernt war, dass kein Optimierungsprozess ihn vorhergesagt hätte. Newton war ein solcher Rand. Einstein war ein solcher Rand. Der Psychologe und Kognitionsforscher John Nosta, der sich in einem Essay für Psychology Today auf das Oxford-Cambridge-Paper bezieht, bringt es auf den Punkt: „Die Ränder der Verteilung sind nicht nur statistische Kuriositäten. Sie sind der Ort, an dem neue Verteilungen entstehen.“ Ein System, das diese Ränder verliert, verliert nicht nur seltene Informationen der Vergangenheit, sondern den Mechanismus, der zukünftige Informationen überhaupt erst hervorbringt.

Nosta prägte in diesem Zusammenhang den Begriff des „Unwiederholbaren“ (the unrepeatable). Damit meint er die kognitive Signatur, die einem spezifischen Menschen eigen und auf keinen Durchschnitt reduzierbar ist. Lange galt diese Einzigartigkeit als das, was KI nicht erzeugen kann. Die neue Forschung dreht diese Perspektive um: Das Unwiederholbare ist das, was sich die KI nicht zu verlieren leisten kann. Es ist die Ressource, die dem System ausgeht. Jedes Mal, wenn ein originärer Gedanke durch einen generierten ersetzt wird, verschiebt sich das Verhältnis ein kleines Stück. Die Veränderung ist anfangs kaum sichtbar, aber sie folgt einer exponentiellen Logik - nicht des Wachstums, sondern des Zerfalls.

Die Parallele im Gehirn: Vorhersage als biologisches Prinzip

Die Erkenntnis, dass KI-Modelle auf menschliche Daten angewiesen sind, um nicht zu degenerieren, erhält eine tiefere Dimension durch eine aktuelle neurowissenschaftliche Studie der Friedrich-Alexander-Universität Erlangen-Nürnberg (FAU). Die Forscher um Dr. Patrick Krauss und Achim Schilling konnten mit hochauflösender Magneto- und Elektroenzephalographie (M/EEG) erstmals im Millisekundenbereich nachweisen, dass das menschliche Gehirn Sprache aktiv vorhersagt - und zwar nach denselben strukturellen Prinzipien wie große Sprachmodelle. Die Probanden hörten kontinuierlich ein Hörbuch, während ihre Hirnaktivität gemessen wurde. Das Ergebnis: Das Gehirn feuert bereits, bevor ein erwartetes Wort überhaupt beginnt. Je höher die Vorhersagewahrscheinlichkeit, desto geringer die neuronale Antwort. Unerwartete Wörter hingegen lösten robuste neuronale Spitzen aus.

„Damit konnten wir belegen, dass das Gehirn Sprache aktiv vorhersagt. Diese Vorhersagen sind messbar und folgen ähnlichen Mustern wie moderne Sprachmodelle“, erklärt Dr. Patrick Krauss. Die Studie, veröffentlicht im Journal NeuroImage, zeigt eine frappierende strukturelle Konvergenz: Zwei fundamental unterschiedliche Systeme - ein biologisches Netzwerk aus elektrochemischen Signalen und ein digitales aus Silizium und Vektorgewichten - organisieren Sprache intern auf vergleichbare Weise. „Das legt nahe, dass beide Systeme ähnlichen informationsverarbeitenden Prinzipien folgen“, betont Achim Schilling. Die Implikation ist klar: Das menschliche Sprachvermögen ist nicht nur eine Datenquelle, sondern das evolutionäre Vorbild, dessen Effizienzprinzipien die KI nachahmt. Entfernt sie sich zu weit von diesem Vorbild, verliert sie ihre Grundlage.

Die neue Wertschöpfung: Warum das Unberechenbare systemrelevant wird

Die Konsequenzen dieser Erkenntnisse sind paradox. Die gängige Debatte kreist um die Frage, ob menschliche Kognition im Wettbewerb mit KI bestehen kann. Die Sorge ist, dass Maschinen uns obsolet machen. Die Forschung zum „Model Collapse“ stellt diese Annahme auf den Kopf. Nicht der Mensch ist vom System abhängig, sondern das System vom Menschen. Die KI kann den Menschen nicht ersetzen, weil sie ihn als Lieferanten nicht-synthetischer, hochvarianter Daten braucht, um nicht in einen Zustand der Selbstähnlichkeit und schließlich der Realitätsverzerrung abzugleiten.

Diese Abhängigkeit wird die Ökonomie der Daten grundlegend verändern. Wenn synthetische Daten im Überfluss vorhanden, aber zunehmend wertlos für das Training leistungsfähiger Modelle sind, steigt der Wert authentischer, menschlicher Interaktionen. Es entsteht eine neue Knappheit: nicht an Rechenleistung, sondern an unverfälschter Kognition. Die „Reibung“, die das Unerwartete, Originelle und manchmal auch Irrationale im menschlichen Denken erzeugt, ist kein Fehler im System, sondern seine essentielle Stütze. Sie verhindert, dass die KI in ein Meer des Durchschnitts abgleitet. Was wir lange als Schwäche des menschlichen Geistes betrachtet haben - seine Unberechenbarkeit - könnte sich als die Ressource erweisen, die künstliche Intelligenz am dringendsten benötigt, um intelligent zu bleiben.

Quellen:

• New OpenAI Academy courses for the next era of work (OpenAI Blog)
• Unlocking dependable responses with Gemini Enterprise Agent Platform’s Agentic RAG (Google Research Blog)
• Improving health intelligence in ChatGPT (OpenAI Blog)
• Human Brains and AI Share Predictive Language Processing Principles (Neuroscience News)
• AI Isn’t Replacing Us; It’s Consuming Us (Psychology Today - Articles)
• Fluid, natural voice translation with Gemini 3.5 Live Translate (DeepMind Blog)

// weiterlesenModel Collapse: Wenn KI die Realität verlernt und das Seltene verschwindetAlgorithmen150.000 Jahre im Regenwald: Warum diese Entdeckung die Menschheitsgeschichte neu schreibtKlimaWarum 90 Prozent aller Menschen Rechtshänder sind - und was aufrechter Gang damit zu tun hatBiologie

Kinetyra