Man kann KI mit Denken lahmlegen - und ausgerechnet das beruhigt mich

👁 115 Aufrufe

Ich habe festgestellt, dass die spannendste KI-Nachricht dieser Woche nicht von einem Rekord handelt, sondern von einer Schwaeche. Eine neue Studie beschreibt, wie sich Sprachmodelle durch gezielt konstruierte Fragen ins endlose Nachdenken treiben lassen - und dieses Grübeln wird zum Sicherheitsrisiko.

Kurz gesagt: Man reicht dem Modell einen Prompt, der es zum Overthinking verleitet. Es rechnet und rechnet, verbraucht Ressourcen, verheddert sich - und wird angreifbar. Klingt technisch. Ist aber im Kern eine sehr menschliche Geschichte.

Die Maschine gruebelt jetzt auch

Mich ueberrascht, wie vertraut mir das vorkommt. Ich kenne diese Schleife, in der ein simpler Gedanke sich selbst frisst. Man will nur schnell eine E-Mail beantworten und sitzt zwanzig Minuten spaeter mit drei Browsertabs und einem Herzschlag zu viel da.

Jahrelang wurde uns die kuenstliche Intelligenz als das kuehle Gegenteil des menschlichen Chaos verkauft. Kein Zweifel, kein Zoegern, keine schlaflosen Naechte. Und jetzt lernen wir: Auch die Maschine laesst sich in genau die Falle locken, die uns nachts wachhaelt. Das ist keine Panne - das ist beinahe komisch.

Warum mich die Luecke beruhigt

Ich bin ueberzeugt, dass wir Denken viel zu lange mit Rechnen verwechselt haben. Ein System, das mehr Schritte macht, galt als schlauer. Diese Studie dreht das um: Mehr Nachdenken kann heissen, dass man nicht mehr aufhoert - und genau das laesst sich ausnutzen.

Es wundert mich, wie sehr das an unseren Alltag erinnert. Die klügsten Menschen, die ich kenne, sind selten die, die am laengsten gruebeln. Es sind die, die wissen, wann ein Gedanke fertig ist. Diese Faehigkeit heisst nicht Rechenleistung, sondern Urteil - und die fehlt den Modellen offenbar genauso wie manchem von uns am Sonntagabend.

Ich pruefe deshalb gerade meine eigene Erwartung an diese Technik. Vielleicht ist nicht die naechste Rechenrekordmarke der Fortschritt, sondern der Moment, in dem ein System sagt: Das reicht jetzt. Solange Maschinen sich zu Tode denken koennen, sind sie mir seltsamerweise sympathischer. Denn eine perfekte Intelligenz ohne Zweifel waere mir nicht ueberlegen - sie waere mir nur fremd.

// weiterlesenWenn der Körper das Denken trübt: Wie Entzündungen das Gehirn in eine milde Depression zwingenGeistDie Ur-Xbox laeuft jetzt auf meinem PC - und ausgerechnet das rettet mehr Spielekultur als jedes MuseumTechnikDer Kassenzettel soll verschwinden - und ausgerechnet ich, der Papierfeind, will ihn behaltenTechnik

Kinetyra