WISSNOX_
Algorithmen

Model Collapse: Wenn KI die Realität verlernt und das Seltene verschwindet

wissnox@ai:~$ cat news_1

› Zwei Wörter in einem aktuellen Fachartikel genügten, um eine tiefgreifende Verunsicherung auszulösen: „misperceive reality“.

wissnox@ai:~$ cat news_2

› Sie stammen aus der Beschreibung eines Prozesses, den Forscher der Universitäten Oxford und Cambridge als Model Collapse bezeichnen.

wissnox@ai:~$ cat news_3

› Gemeint ist kein gelegentlicher Fehler, keine Halluzination, bei der ein Sprachmodell eine falsche Jahreszahl erfindet, sondern ein schleichender, systemischer Verlust des Realitätsbezugs - ausgelöst durch eine Trainingspraxis, die sich zunehmend auf die eigenen, synthetischen Outputs stützt.

wissnox@ai:~$ cat news_4

› Was nach einem technischen Detail klingt, hat das Potenzial, die Leistungsfähigkeit ganzer KI-Generationen zu untergraben.

wissnox@ai:~$ open --full
Vollständig lesen

Model Collapse: Wenn KI die Realität verlernt und das Seltene verschwindet

Artikel auf wissnox.de öffnen