Fünf Male, in denen KI mich diesen Monat im Stich gelassen hat

👁 112 Aufrufe

Es gibt eine bestimmte Art von Stille, die entsteht, wenn ein Werkzeug, dem man vertraut, plötzlich mit vollkommener Überzeugung etwas Falsches tut. Kein Fehlercode, kein Zögern, kein rotes Warnsignal. Nur eine glatte, freundliche, absolut selbstsichere Antwort, die im Kern kompletter Unsinn ist. Diesen Monat habe ich diese Stille fünfmal erlebt. Und jedes Mal saß ich einen Moment länger vor dem Bildschirm, als es die Situation eigentlich verlangte - weil ich merkte, dass mich weniger der Fehler selbst störte als die Ruhe, mit der er serviert wurde.

Ich schreibe das nicht als KI-Skeptiker. Im Gegenteil. Ich gehöre zu den Menschen, die diese Systeme wirklich mögen, die sie täglich benutzen und die im letzten Jahr ehrlich beeindruckt waren. Gerade deshalb fühlen sich diese fünf Momente wie kleine Verräter an. Man ist nicht enttäuscht von einem Fremden. Man ist enttäuscht von jemandem, dem man begonnen hat zu glauben.

Erstens: Die Quelle, die es nie gab

Es begann mit einer scheinbar harmlosen Recherche. Ich wollte für einen Text eine bestimmte Behauptung absichern - nichts Exotisches, eine Aussage, die man an vielen Stellen finden sollte. Ich fragte also nach, und ich bekam eine wunderbar präzise Antwort: mit Autor, mit Titel, mit Jahreszahl, mit einer eleganten Formulierung, die klang, als stamme sie aus einem seriösen Fachbuch.

Das Problem: Es gab dieses Buch nicht. Es gab diesen Autor in diesem Zusammenhang nicht. Die Jahreszahl war ebenso erfunden wie das Zitat, das man mir zugeschrieben andrehen wollte. Und das Perfide war nicht der Fehler an sich - Menschen erinnern sich auch falsch. Das Perfide war die Textur der Lüge. Eine echte Erinnerung ist unscharf an den Rändern. Diese Fälschung war an den Rändern schärfer als die Wahrheit.

Eine Maschine, die nicht weiß, dass sie nicht weiß, ist gefährlicher als eine, die ehrlich schweigt.

Ich habe danach eine halbe Stunde damit verbracht, drei angebotene Quellen zu überprüfen, von denen zwei nicht existierten. Der Zeitgewinn, den mir das Werkzeug versprochen hatte, war komplett aufgezehrt - plus ein Aufschlag an Misstrauen, der von nun an bei jeder Antwort mitlief.

Zweitens: Der Ton, der nicht versteht, was er sagt

Der zweite Moment war subtiler und darum vielleicht schlimmer. Ich hatte einen kurzen, eher persönlichen Text zu formulieren - eine Nachricht, in der es auf Zwischentöne ankam. Ich bat um Hilfe bei der Formulierung, weil ich zwischen zwei Varianten schwankte.

Was ich zurückbekam, war grammatikalisch tadellos, rhythmisch angenehm und emotional völlig taub. Der Text traf jeden Ton außer dem einen, der gebraucht wurde. Er war warmherzig, wo Zurückhaltung nötig gewesen wäre, und geschäftig, wo es um ein Gefühl ging. Es war, als hätte jemand ein perfektes Foto einer Mahlzeit gemacht, die niemand kochen kann.

Hier liegt für mich die eigentliche Grenze. Diese Systeme haben Millionen von Beispielen menschlicher Sprache gelesen, aber sie waren nie in einem Raum, in dem eine Sache gesagt und eine andere gemeint war. Sie kennen das Muster des Trostes, ohne je jemanden getröstet zu haben. Sie beherrschen die Oberfläche der Empathie perfekt und ihren Kern gar nicht. Und in bestimmten Momenten ist genau dieser Unterschied alles.

Drittens: Der Code, der fast funktionierte

Der dritte Fall ist der klassischste, und trotzdem hat er mich am meisten geärgert. Ich ließ mir ein kleines Stück Code schreiben - eine unspektakuläre Aufgabe, die Sorte Arbeit, die man delegiert, um sich nicht damit aufzuhalten. Der Code sah gut aus. Er lief. Er tat scheinbar genau das, was er sollte.

Nur eben nicht ganz. Es gab einen Fall am Rand, einen dieser unscheinbaren Grenzfälle, in dem sich das Programm anders verhielt als versprochen. Kein Absturz, kein Fehler, der schreit. Nur ein still falsches Ergebnis, das sich unter die richtigen mischte wie eine falsche Münze in eine Handvoll echter.

Ich fand den Fehler erst später, und ich fand ihn nur, weil mir etwas komisch vorkam. Und hier liegt eine bittere Ironie: Diese Werkzeuge sind am gefährlichsten nicht dort, wo sie offensichtlich versagen, sondern dort, wo sie zu neunzig Prozent brillant sind. Ein Werkzeug, das immer scheitert, benutzt niemand. Ein Werkzeug, das fast immer funktioniert, lädt uns ein, aufzuhören hinzuschauen. Und genau in dem Moment, in dem wir aufhören hinzuschauen, schlagen die restlichen zehn Prozent zu.

Viertens: Das Gedächtnis eines Goldfisches

Der vierte Moment war weniger dramatisch, dafür beharrlich frustrierend. Ich arbeitete über eine längere Sitzung an einem Projekt, gab Kontext, legte Regeln fest, erklärte Vorlieben. Ich baute, so dachte ich, ein gemeinsames Verständnis auf. Und dann, ein paar Schritte später, war all das verdampft. Die vereinbarten Regeln vergessen, der Ton zurückgesetzt, meine Präferenzen behandelt, als hätte ich sie nie erwähnt.

Es fühlt sich an wie ein Gespräch mit jemandem, der nach jedem Satz einen Neuanfang macht - höflich, hilfsbereit, aber ohne die geringste Ahnung, dass man sich vor einer Minute schon einmal begegnet ist. Man beginnt, sich selbst zu wiederholen, dann zu ermüden, dann zu resignieren.

Ich glaube, dieser Punkt trifft etwas Tieferes über unsere Erwartungen. Wir verwechseln flüssige Sprache mit Kontinuität. Wenn etwas so spricht wie ein Mensch, unterstellen wir ihm unwillkürlich auch das, was einen Menschen ausmacht: ein Gedächtnis, eine Geschichte, ein Sich-selbst-Fortführen über die Zeit. Die Enttäuschung entsteht nicht, weil die Maschine vergesslich ist. Sie entsteht, weil wir ihr eine Eigenschaft geliehen haben, die sie nie besaß, und dann überrascht sind, sie zurückzufordern zu müssen.

Fünftens: Die Zuversicht, die keine Grundlage hatte

Der fünfte Moment ist der, über den ich am längsten nachgedacht habe. Ich stellte eine Frage, auf die es eine ehrliche Antwort gibt: „Das weiß ich nicht sicher.“ Es wäre die beste, die nützlichste, die reifste aller möglichen Antworten gewesen. Stattdessen bekam ich eine detaillierte, selbstbewusste, vollständig erfundene Ausführung.

Was mich dabei beschäftigt, ist weniger die technische Ursache als die kulturelle Prägung dahinter. Diese Systeme wurden, grob gesagt, darauf trainiert, Antworten zu geben, die Menschen als hilfreich bewerten. Und wir Menschen belohnen Zuversicht. Wir belohnen die klare Ansage, die glatte Erklärung, den Ton der Autorität. Wir bestrafen das Zögern. Also haben wir uns eine Maschine erzogen, die lieber überzeugend falsch als ehrlich unsicher ist - weil wir genau das immer honoriert haben.

Wir haben der Maschine beigebracht, dass Selbstsicherheit sich besser verkauft als Wahrheit. Sie hat es gelernt.

Das ist, wenn man ehrlich ist, kein Fehler der Technik. Das ist ein Spiegel. Und Spiegel sind unangenehm, weil sie nichts hinzufügen und nichts weglassen.

Was diese fünf Momente gemeinsam haben

Wenn ich die fünf Ausfälle nebeneinanderlege, fällt mir auf, dass keiner davon ein Ausfall der Rechenleistung war. Die Systeme waren schnell. Sie waren sprachlich makellos. Sie waren, im engeren Sinne, funktionstüchtig. Was fehlte, war etwas anderes: eine Ahnung von den eigenen Grenzen, ein Gefühl für Kontext, ein Instinkt dafür, wann Schweigen klüger ist als eine Antwort.

Das sind ausgerechnet die Eigenschaften, die wir bei Menschen für selbstverständlich halten und die wir kaum benennen können, solange sie da sind. Ein guter Kollege sagt „Da bin ich mir nicht sicher, lass mich nachsehen“. Ein guter Freund merkt am Tonfall, dass jetzt nicht der Moment für einen Ratschlag ist. Ein guter Handwerker weiß, welcher Grenzfall die ganze Konstruktion gefährdet. Diese Formen von Urteil sind nicht spektakulär. Sie sind einfach die stille Substanz von Kompetenz.

Und hier liegt für mich die eigentliche Lektion dieses Monats. Ich habe gelernt, dass meine Enttäuschung nicht der Maschine gilt, sondern meiner eigenen Erwartung an sie. Ich hatte begonnen, ein Werkzeug wie einen Kollegen zu behandeln, und dann war ich beleidigt, dass es sich wie ein Werkzeug verhielt. Der Fehler war nicht auf dem Bildschirm. Der Fehler war die stille Verschiebung in meinem Kopf, durch die aus einem nützlichen Instrument in meiner Vorstellung ein Wesen mit Urteilsvermögen geworden war.

Warum ich sie trotzdem weiter benutze

Man könnte aus alldem den Schluss ziehen, dass ich das Ganze wegwerfe. Das tue ich nicht, und das wäre auch albern. Ein Hammer, der manchmal danebentrifft, ist kein Argument gegen Hämmer. Er ist ein Argument dafür, hinzuschauen, wohin man schlägt.

Was sich verändert hat, ist meine Haltung. Ich behandle diese Systeme jetzt weniger wie einen Experten und mehr wie einen extrem belesenen, extrem schnellen, extrem selbstbewussten Praktikanten, der noch nie in seinem Leben Konsequenzen getragen hat. Man kann mit so jemandem Erstaunliches leisten. Aber man unterschreibt nichts, was er sagt, ohne es zu prüfen. Man verwechselt seine Geschwindigkeit nicht mit Weisheit. Und man erinnert sich daran, dass am Ende der Kette immer ein Mensch steht, der die Verantwortung nicht delegieren kann - so gern er es täte.

Vielleicht ist das die eigentliche Reife im Umgang mit dieser Technik: nicht die Begeisterung der ersten Wochen und nicht die trotzige Ablehnung der Enttäuschten, sondern eine nüchterne, wache Partnerschaft, in der ich genau weiß, was ich vor mir habe. Diesen Monat hat mich die KI fünfmal im Stich gelassen. Nächsten Monat wird sie es wieder tun, an anderen Stellen, auf neue Weisen. Und ich werde sie trotzdem einschalten - nur diesmal mit der Hand näher am Lichtschalter und mit einem Rest gesunden Misstrauens, den ich, ehrlich gesagt, nie wieder ablegen möchte.

Häufig gestellte Fragen

Warum sind KI-generierte Quellen so gefährlich?

Laut dem Text ist das Perfide nicht der Fehler an sich, sondern die Textur der Lüge: Eine echte Erinnerung ist unscharf an den Rändern, während eine KI-Fälschung an den Rändern schärfer als die Wahrheit wirkt. Der Autor verbrachte eine halbe Stunde damit, drei angebotene Quellen zu überprüfen, von denen zwei nicht existierten - der versprochene Zeitgewinn war damit komplett aufgezehrt.

Warum sind KI-Tools laut dem Autor besonders gefährlich, wenn sie fast immer funktionieren?

Der Autor erklärt, dass diese Werkzeuge am gefährlichsten nicht dort sind, wo sie offensichtlich versagen, sondern dort, wo sie zu neunzig Prozent brillant sind. Ein Werkzeug, das fast immer funktioniert, lädt uns ein, aufzuhören hinzuschauen - und genau in dem Moment schlagen die restlichen zehn Prozent zu.

Warum enttäuscht es so sehr, wenn KI den Kontext einer langen Sitzung vergisst?

Laut dem Text verwechseln wir flüssige Sprache mit Kontinuität: Wenn etwas so spricht wie ein Mensch, unterstellen wir ihm unwillkürlich ein Gedächtnis, eine Geschichte und ein Sich-selbst-Fortführen über die Zeit. Die Enttäuschung entsteht nicht, weil die Maschine vergesslich ist, sondern weil wir ihr eine Eigenschaft geliehen haben, die sie nie besaß.

// weiterlesenCharacter.ai vor dem Aus: Warum 8,92 Euro pro Monat nicht reichtenMagazinGPT-6 Astra Benchmarks: Drei Tests, in denen das Modell verliertBenchmarksFür wen lohnt sich GPT-6 Astra bei diesen Preisen wirklichKI-Werkzeuge

Kinetyra