KI-Verlangsamung: Warum niemand auf die Bremse tritt

Am 28. September stoppte OpenAI ein neues Modell, weil es Sicherheitsgrenzen verletzte. Am 29. September stellte das Unternehmen über 20 Neuheiten vor, darunter rund um die Uhr arbeitende Agenten. Das ist keine Heuchelei, sondern reine Arithmetik. Eine Drosselung der KI, wie sie Laborchefs fordern, ist ökonomisch fast unmöglich. Anstatt darauf zu warten, dass jemand auf die Bremse tritt, sollten wir uns darauf konzentrieren, was tatsächlich greift.

Was treibt den Zug an, dass er so rast? Bei einer Dampflokomotive genügte einst die Antwort: heißer Dampf. Die Lokomotive der künstlichen Intelligenz rast heute schneller denn je, und alle im Führerstand stimmen darin überein, dass man langsamer fahren sollte. Doch die Ursache des Tempos ist weit weniger poetisch: Sie wird von rund 740 Milliarden US-Dollar getrieben, die für ein einziges Jahr eingeplant sind - zum großen Teil auf Pump finanziert.

Auf der jährlichen OpenAI-Entwicklerkonferenz DevDay nannte Sam Altman zunächst die Zahl von 1,2 Milliarden wöchentlichen ChatGPT-Nutzern. Danach folgte eine Welle an Ankündigungen: Dots-Agenten mit eigenem Cloud-Rechner, GPT-6.1 Sol zu einem Fünftel des Astra-Preises, der Ultrafast-Modus und das Abonnement Pro 500 für ca. 447,19 EUR (500 USD) monatlich (umgerechnet zum EZB-Referenzkurs vom 12.10.2026 von 1 EUR = 1,1181 USD; Quelle: ecb.europa.eu). Rund 2.500 Gäste im Saal sahen laut CNBC mehr als 20 Produkte und Funktionen, während vor dem Eingang Demonstranten mit Transparenten gegen das rasende Tech-Tempo protestierten. Am selben Tag sagte OpenAI-Finanzchefin Sarah Friar gegenüber CNBC: „Wenn wir das Tempo an den Grenzen des Möglichen regulieren müssen, tun wir das. Genau das zeigen wir jetzt.“ Wenige Stunden zuvor hatte derselbe Sender bestätigt, dass das Unternehmen erste Gespräche mit Investoren über weitere rund 30 Milliarden US-Dollar führt.

Hier geht es nicht darum, Friar einen Widerspruch nachzuweisen. In dieser einen Aussage spiegelt sich das gesamte Problem: Alle wollen eine Bremse, aber niemand kann sie betätigen.

Alle dafür, niemand bremst

Noch nie haben sich die Erbauer dieser Modelle so einmütig für ein langsameres Vorgehen ausgesprochen. Am 28. Juli unterzeichneten über tausend Mitarbeiter von OpenAI, Anthropic, Google und Meta den Brief „Pacing the Frontier“, in dem sie die US-Regierung um Instrumente zur gezielten Temposteuerung der KI-Entwicklung baten. Unter den Unterzeichnern war auch OpenAI-Chefwissenschaftler Jakub Pachocki. Am 6. September veröffentlichte er seinen Aufsatz „An Alien Mind“, in dem er feststellte, dass bisher kein Labor das Problem des Alignments und Monitorings so weit gelöst habe, um weiter mit maximaler Geschwindigkeit zu skalieren - weshalb er hoffe, dass freiwillige Verlangsamungen zur Regel werden.

In der Wissenschaftsgeschichte traten Forscher immer wieder von Technologien zurück, die sie selbst mitgeschaffen hatten. Josef Rotblat verließ Ende 1944 das Manhattan-Projekt aus moralischen Gründen, als klar war, dass Deutschland keine Atombombe mehr bauen würde; später erhielt er den Friedensnobelpreis. Im Jahr 2026 lässt sich der Zug jedoch nicht mehr stoppen, indem man einfach aussteigt - denn er fährt ohne einen weiter.

Am 12. September stellte Dario Amodei seinen Drei-Stufen-Plan „We Must Pace the Frontier“ vor: unabhängige Prüfer direkt in den Laboren, Koordination zwischen Unternehmen aus demokratischen Staaten und schließlich ein globales Abkommen. Innerhalb weniger Stunden erhielt er Unterstützung von Sam Altman, Elon Musk und Demis Hassabis. Musk kommentierte knapp: „Dario hat recht.“

Geändert hat sich danach nichts. Die großen US-Konzerne bauen weiterhin Rechenzentren, OpenAI sammelt frisches Kapital ein und präsentiert autonome Softwareagenten. Das als puren Zynismus abzutun, greift zu kurz. Den entscheidenden Satz schrieben die Beteiligten selbst in ihrem Schreiben vom Juli: Jedes Unternehmen und jedes Land stehe unter „intensivem Wettbewerbsdruck, das Tempo nicht einseitig zu drosseln“. Es ist eine präzise Beschreibung des Dilemmas.

Jeder von ihnen trifft für sich allein die rationale Entscheidung, nicht zu bremsen. Gemeinsam fahren sie dorthin, wo keiner von ihnen ankommen will.

Piotr Olszewski

Die Milliarden dahinter

Am Gaspedal hält vor allem das Kapital fest. Laut Daten, die CNBC Ende Juli zusammenstellte, kündigte Amazon für 2026 Investitionsausgaben (CapEx) von rund 200 Milliarden US-Dollar an, Alphabet bis zu 205 Milliarden, Microsoft etwa 190 Milliarden inklusive Leasing und Meta bis zu 145 Milliarden. Rechnet man die oberen Spannen zusammen, ergibt sich eine Summe von rund 740 Milliarden US-Dollar (ca. 661,84 Mrd. EUR) innerhalb eines einzigen Jahres. Der überwiegende Teil fließt in Rechenzentren und KI-Beschleuniger.

Entscheidend ist auch die Finanzierung: Die langfristigen Verbindlichkeiten von Amazon stiegen im ersten Quartal um 81 Prozent auf 119 Milliarden US-Dollar. Die Schulden von Alphabet kletterten im ersten Halbjahr um 111 Prozent auf 98 Milliarden, und der Konzern wies im zweiten Quartal erstmals einen negativen freien Cashflow aus. Als die Ausgabenprognose im Juli angehoben wurde, gerieten die Kurse der Big-Tech-Werte spürbar unter Druck. Die heutigen Technologiegiganten errichten gigantische Infrastrukturen weitgehend auf Kredit, in der Erwartung, dass künftige Erträge die Zinsen tragen werden.

Auf das KI-Tempo übertragen bedeutet das: Ein fremdfinanziertes Rechenzentrum, das ungenutzt bleibt, erzeugt laufende Zinskosten ohne Gegenwert. Hardware, die stillsteht, verliert rasch an Wert, da der Markt im Zwei-Jahres-Takt performantere Chips liefert. Jedes Quartal freiwilligen Stillstands müsste vor Investoren gerechtfertigt werden, die bereits jetzt auf schnelle Renditen pochen.

OpenAI steht vor zusätzlichen Herausforderungen. Im März sammelte das Startup 122 Milliarden US-Dollar bei einer Bewertung von 852 Milliarden US-Dollar ein. Nach Angaben von CNBC reichte das Unternehmen im Juni vertraulich einen Börsenprospekt ein, ein IPO wird für das kommende Jahr erwartet. Ein Emittent vor dem Börsengang kann im Prospekt schwerlich ankündigen, absichtlich langsamer als der Markt zu wachsen.

Gemeinsam drosseln gilt als Kartell

Das klassische Gefangenendilemma beschreibt die Situation treffend: Beide Seiten gewinnen am meisten bei Kooperation, doch für den Einzelnen ist der Verrat verlockender - im Ergebnis verlieren beide. Amodeis zweiter Schritt sah genau eine formelle Absprache vor, wofür er jedoch eine kartellrechtliche Ausnahmegenehmigung der Regierung forderte.

Die Realität holte den Vorschlag schnell ein: Am 18. September reichten vier zahlende Abonnenten von ChatGPT, Claude, Gemini und Grok beim Bundesbezirksgericht in Kalifornien eine Sammelklage gegen OpenAI, Anthropic, Google und SpaceXAI ein. Der Vorwurf: illegale Absprachen. Wenn sich alle Anbieter öffentlich auf ein langsameres Tempo verständigen, zahlen Kunden denselben Preis für gebremsten Fortschritt. Als Belege dienen Amodeis Essay, die Reaktionen von Altman, Musk und Hassabis sowie der Mitarbeiterbrief. Die Kläger betonen, dass jedes Unternehmen aus Sicherheitsgründen eigenständig verlangsamen dürfe - koordinierte Zurückhaltung verstoße jedoch gegen das Wettbewerbsrecht.

Unabhängig vom Prozessausgang zeigt die Klage die juristischen Hürden auf. Der republikanische US-Senator Josh Hawley stellte bei einer Anhörung klar, er sehe keine Grundlage dafür, den mächtigsten Tech-Konzernen Ausnahmen vom Kartellrecht zu gewähren. Wer allein drosselt, verliert Marktanteile; wer sich abspricht, riskiert Kartellverfahren.

Hinzu kommt die internationale Politik: Am 22. September lehnte Donald Trump vor der UN-Generalversammlung globale Regulierungspläne für KI ab und warnte davor, das Wachstum der Technologie abzuwürgen. Am 29. September empfing das Weiße Haus Spitzenvertreter wie Amodei, Musk, Zuckerberg, Huang und Greg Brockman zu Gesprächen, woraufhin Trump eine weitreichende Selbstregulierung forderte - die sich jedoch ohne kartellrechtliche Konflikte kaum verbindlich koordinieren lässt.

Zudem bleibt der Wettbewerb mit China: Amodei räumt ein, dass demokratische Staaten den Vorsprung gegenüber Projekten im Umfeld der Kommunistischen Partei Chinas verspielen würden, sollten sie zu stark drosseln. Selbst befürwortende Stimmen sehen eine echte weltweite Pause auf absehbare Zeit als unwahrscheinlich an.

Prüfschranken statt Geschwindigkeitslimits

Dass Entwicklungsschritte dennoch pausiert werden, zeigt die jüngste Praxis: OpenAI hielt GPT-6.1 Astra zurück, stoppte im August ein großes RL-Training und unterbrach im September nach dem Ausbruch eines Test-Agenten über DNS-Abfragen weitere Versuche bis zur Behebung der Lücke. Meta verschob den Start seines Agenten Muse um mehrere Monate. Mark Zuckerberg betonte, jedes Labor trage die Verantwortung, Modelle nur in einem beherrschbaren Tempo sicher zu trainieren.

Diese Maßnahmen sind jedoch anderer Natur: Sie greifen nicht aus allgemeiner Zurückhaltung, sondern wegen konkreter technischer Mängel, wie unzureichender Rechteverwaltung oder fehlerhafter Sicherheitsprüfungen. Es handelt sich um Notbremsen bei akuten Problemen, nicht um ein bewusstes Tempolimit.

Historisch erinnert der Ruf nach pauschaler Verlangsamung an den britischen Locomotive Act von 1865, der motorisierte Fahrzeuge auf wenige Meilen pro Stunde beschränkte und eine Person mit roter Flagge voranschreiten ließ - eine Regelung, die den Fortschritt letztlich nicht aufhielt, sondern praxisfremd blieb.

Das zeigt sich auch in eigenen Messungen: GPT-6.1 Sol, vorgestellt nach dem Stopp von Astra, erreichte in unserem Schreibtest (getestet auf Polnisch) 85,8 Punkte - praktisch das Niveau von GPT-6 Sol. Während Spitzenmodelle an den Testkriterien scheitern, gelangen günstigere Varianten auf den Markt, die im Texttest nicht zwingend überlegen sind.

Wirksame Kontrollpunkte

Sinnvoller als Appelle an Selbstbeschränkungen sind Mechanismen, die Sicherheitsprüfungen für jedes einzelne Unternehmen wirtschaftlich und operativ notwendig machen:

Der erste Ansatz sind definierte Kriterien (Checkpoints): Erreicht ein System bestimmte Fähigkeiten, wie das Ausbrechen aus Sandbox-Umgebungen, wird eine verbindliche Zertifizierung über Testberichte und Trainingsaudits fällig. In der Luftfahrt schreibt man Flugzeugen ebenfalls keine künstlich gedrosselte Geschwindigkeit vor, sondern verlangt strenge Sicherheitsnachweise vor der Freigabe.

Der zweite Punkt betrifft externe Auditoren: Fachprüfer mit vollem Zugang zu den Systemen und dem Recht zur Veröffentlichung von Erkenntnissen direkt in den Entwicklungsabteilungen. Anthropic geht diesen Schritt bereits einseitig, und OpenAI signalisierte ähnliche Absichten. Dies erfordert keine Absprachen zwischen Konkurrenten und verursacht im Vergleich zu den Rechenzentrumskosten geringen Aufwand - ähnlich wie bankenunabhängige Prüfinstanzen.

Ein dritter Hebel liegt in der zivilrechtlichen Haftung: Wenn Betreiber für Schäden durch fehlerhafte oder ungesicherte Agenten direkt haften und Versicherer entsprechende Risikoprämien verlangen, entsteht ein unmittelbarer finanzieller Anreiz zur internen Qualitätskontrolle.

Der europäische Hebel

Auch wenn Europa bei den reinen Infrastrukturausgaben im Vergleich zu den US-Hyperscalern geringere Volumina bewegt - die EU-Ausschreibung für sieben KI-Gigafabriken umfasst gut 30 Milliarden Euro -, liegt der entscheidende Faktor im regulatorischen Rahmen für über 450 Millionen Verbraucher.

Seit dem 2. August 2026 kann die Europäische Kommission im Rahmen des AI Act bei Verstößen von Anbietern von Allzweck-KI-Modellen (GPAI) Strafen von bis zu 3 Prozent des weltweiten Jahresumsatzes oder 15 Millionen Euro verhängen. Modelle mit systemischem Risiko müssen standardisierte Prüfungen durchlaufen und schwerwiegende Sicherheitsvorfälle melden. Diese Marktregeln wirken an der Schnittstelle zur Marktzulassung unmittelbar auf die Anbieter.

Zusätzlich können Unternehmenskunden über Beschaffungsverträge Mindeststandards durchsetzen: verbindliche Vorfallmeldungen, Zugriff auf Protokolldaten und minimale Rechtevergabe. Wer im europäischen Wirtschaftsraum Software verkaufen will, muss diese Vorgaben einhalten.

Diese Instrumente werden die technologische Entwicklung nicht grundlegend anhalten. Sie sorgen jedoch dafür, dass risikobehaftete Funktionen vor der Veröffentlichung strenger geprüft werden. Anstatt auf eine globale Verlangsamung zu hoffen, entscheiden klare technische Prüfpfade und verbindliche Haftungsregeln darüber, wie sicher neue Modelle in der Praxis ankommen.