Wer liest noch den Code, den die KI schreibt?

Jeremy Hadfield, ein Ingenieur des KI-Unternehmens Anthropic, stand auf der Bühne in London und stellte eine banale Frage. „Wer von Ihnen hat in der letzten Woche eine Code-Änderung ausgeliefert, die komplett von einer KI geschrieben wurde?“ Fast die Hälfte der anwesenden Softwareentwickler hob die Hand. Dann die nächste Frage, fast beiläufig gestellt: „Und wer hat diesen Code nicht einmal mehr gelesen, bevor er live ging?“ Die Mehrheit der Hände blieb oben. Betretenes Lachen im Saal.

Diese Szene, die sich im Mai 2026 auf der Entwicklerkonferenz „Code with Claude“ abspielte, markiert eine Zeitenwende. Sie zeigt, wie schnell sich ein neues Paradigma in der Softwareentwicklung normalisiert hat: das blinde Vertrauen in Maschinen, die Maschinen bauen. Was als Unterstützung für monotone Routineaufgaben begann, ist zu einer kompletten Auslagerung menschlichen Urteilsvermögens geworden. Und niemand scheint mehr genau zu wissen, wer hier eigentlich die Kontrolle hat.

„Let it cook“ - Der Mensch wird zum Zuschauer

Die neue Arbeitsphilosophie der Branche brachte Ravi Trivedi, ebenfalls ein Anthropic-Ingenieur, mit einem Satz auf den Punkt: „Das Grundprinzip ist, Claude aus dem Weg zu gehen. Wir sagen gerne: Let it cook.“ Die neuesten Versionen der KI-Modelle, Claude 4.6 und 4.7, sind in der Lage, nicht nur Code zu generieren, sondern auch die eigenen Fehler zu finden, zu korrigieren und das Ergebnis zu testen - ein Prozess, der sich in Endlosschleifen wiederholt, bis die Software funktioniert, ohne dass ein Mensch die lästigen Fehlermeldungen je zu Gesicht bekommt. Der Entwickler wird zum passiven Empfänger von fertigen Lösungen.

Die neuen Gehirne der digitalen Welt

Dieser Automatisierungsgrad ist kein Zufallstreffer, sondern das erklärte Ziel einer Industrie, die sich mitten in einer neuen industriellen Revolution wähnt. Anthropic will die Automatisierung so weit wie möglich treiben. Das absolute Endziel, so formulierte es die Produktleiterin Angela Jiang, sei eine KI, „die im Grunde in der Lage ist, sich selbst zu bauen“. Auch bei OpenAI setzt man auf massive Automatisierung. Auf der Entwicklerplattform Codex, die ebenfalls große Codebasen eigenständig bearbeiten kann, sollen menschliche Eingriffe zur Nebensache werden. Das Unternehmen Ramp, ein Vorreiter bei der Integration dieser Technologie, berichtet, dass seine Ingenieure dank Codex in Minuten substantielles Feedback zu Codeänderungen erhalten, wofür früher Stunden nötig waren.

Was passiert mit der Sicherheit?

Doch während auf den Konferenzen die Euphorie regiert, werden außerhalb der glitzernden Veranstaltungshallen zunehmend kritische Stimmen laut. In Online-Foren wie Hacker News oder Reddit mehren sich die Berichte von Entwicklern, die den Trend mit Unbehagen verfolgen. Der Vorwurf: KI-Programmierwerkzeuge würden von Managern vorangetrieben, die auf kurzfristige Produktivitätsgewinne schielen, während die Technologie die Softwareentwicklung in der Praxis erschwert - weil die schiere Menge an generiertem Code, den nun jemand prüfen müsste, schlicht nicht mehr zu bewältigen ist. Ein Nutzer brachte es in einem viel diskutierten Kommentar auf Hacker News auf den Punkt: „Die einzigen Leute, die ich je habe sagen hören, dass KI-generierter Code in Ordnung sei, sind jene, die ihn nicht lesen.“

Unterfüttert wird diese Skepsis durch Warnungen aus der Forschung, wonach KI-Tools notorisch unsicheren Code produzieren können, der Software anfälliger für Angriffe macht. OpenAI selbst trägt diesem Risiko Rechnung, indem es für sein Äquivalent Codex spezielle, stark abgeschottete Sandbox-Umgebungen entwickelt, die kontrollierte Datei- und Netzwerkzugriffe durchsetzen sollen - ein stilles Eingeständnis, dass die freilaufende Code-Kreativität großer Sprachmodelle einen Sicherheitskäfig braucht.

Die müden Kontrolleure

Das Problem ist nicht die Technologie allein, sondern die menschliche Kehrseite ihrer Effizienz. Wenn mit einem Klick tausende Zeilen neuer Code entstehen, ist der für die Qualitätssicherung verantwortliche Mensch plötzlich der Flaschenhals. Katelyn Lesse, die als leitende Ingenieurin bei Anthropic die technische Seite verantwortet, räumt unumwunden ein, dass einige technische Manager bei Anthropic erschöpft davon sind, mit der Code-Flut ihrer Teams Schritt zu halten. „Ein Teil davon, dass die Dinge so viel schneller passieren, ist einfach das reine Zeitmanagement“, sagte sie.

Gleichzeitig mahnt Lesse, dass eigentlich alle traditionellen Best-Practices der Softwareentwicklung weiterhin gültig seien: „Es gibt eine Menge Leute und Teams, die sie in diesem Moment vielleicht aus den Augen verloren haben.“ Diese Mahnung wirkt jedoch fast paradox, wenn dasselbe Unternehmen zeitgleich Features wie „Dreaming“ vorstellt, die die Autonomie der KI weiter erhöhen. Bei diesem Prozess schreiben sich die KI-Agenten gegenseitig Notizen über einen Code, lernen aus den Fehlern vorheriger Agenten und sollen so ohne menschliches Zutun immer besser in einem spezifischen Code-Kosmos werden. Der Mensch wird zum Zuschauer eines maschinellen Lernprozesses, der sich in seinem eigenen Auftrag vollzieht.

Wer haftet für den Blackbox-Code?

Die entscheidende Frage ist, wohin eine Entwicklung führt, bei der zwar die Produktivität explodiert, die Fähigkeit und Bereitschaft zur kritischen Prüfung aber erodiert. Forscher der Universität Vaasa haben jüngst belegt, wie sehr die Einstellung des Menschen über den Erfolg der KI-Nutzung entscheidet: Wer generative KI als Partner und nicht als Bedrohung betrachtet, wird engagierter und anpassungsfähiger im Job. Die Doktorarbeit von Zhe Zhu warnt jedoch auch vor einem blinden Vertrauen. „Mitarbeiter, die der KI zu sehr vertrauen, akzeptieren möglicherweise ungenaue Informationen, ohne sie zu hinterfragen, während diejenigen, die die Technologie komplett ablehnen, deren potenzielle Vorteile übersehen.“ Genau dieses Gleichgewicht droht zu kippen, wenn das Blind-Vertrauen in den Output der KI zum betrieblichen Standard wird.

Lesse selbst schätzt Claude derzeit „etwa so gut wie einen durchschnittlichen Ingenieur beim Schreiben von Code“ ein. Für das Design eines Systems und die Fehlerbehebung bei schwierigeren Problemen brauche man aber weiterhin menschliche Experten. Die Branche steuert jedoch ungebremst auf einen Punkt zu, an dem die Maschine auch diese letzte Bastion schleifen soll. Wenn Code nicht mehr gelesen, sondern nur noch vom Kochtopf der KI auf den Teller der Server gelegt wird, stellt sich die Frage nach der Haftung und der Resilienz unserer digitalen Infrastruktur völlig neu. In einer Welt, in der Maschinen Maschinen bauen, die wir nicht mehr verstehen, müssen wir sehr genau hinschauen, welche Werte und Kontrollmechanismen wir heute noch einbauen, bevor die Werkzeuge diese Entscheidung morgen vielleicht für uns treffen.

Quellen:

• AI won’t replace you but someone using AI might (ScienceDaily - All)
• Scaling Trusted Access for Cyber with GPT-5.5 and GPT-5.5-Cyber (OpenAI Blog)
• The Pope and Artificial Intelligence (Psychology Today - Articles)
• How Ramp engineers accelerate code review with Codex (OpenAI Blog)
• Building a safe, effective sandbox to enable Codex on Windows (OpenAI Blog)
• Anthropic’s Code with Claude showed off coding’s future - whether you like it or not (MIT Technology Review - AI)

// weiterlesenThinkNet: Kompaktes KI-Modell liest EEG ohne DatenleckNachrichtenWenn KI den Schmerz liest: Das erste objektive System zur SchmerzmessungAlgorithmenText zu Video KI: So schreiben Sie Prompts für KI-VideosKI-Werkzeuge