Wenn der Algorithmus den Bleistift spitzt: Warum Mathematiker eine Bremse für KI fordern

Es war eine Sensation, die vielen Mathematikerinnen und Mathematikern einen Schauer über den Rücken jagte: Im Frühjahr 2026 gab OpenAI bekannt, dass eine künstliche Intelligenz das berühmte geometrische „Unit-Distance“-Problem gelöst hatte - eine der hartnäckigsten unbeantworteten Fragen der diskreten Geometrie. Doch im Jubel über den vermeintlichen Triumph der Maschinen mischte sich tiefes Unbehagen. Denn während eine Seite von einem neue Zeitalter der Erkenntnis spricht, rüstet sich die andere für einen Kampf um die Seele ihrer Disziplin. Was ist ein wissenschaftlicher Beweis noch wert, wenn kein Mensch ihn mehr in Gänze nachvollziehen kann - und wenn die Unternehmen, die diese Beweise generieren, ihre Methoden lieber im Tresor lassen als im offenen Diskurs zu teilen?

Diese Frage ist längst nicht mehr hypothetisch. Eine Gruppe von rund 60 Forschenden und politischen Entscheidungsträgern hat sich im Herbst 2025 am Lorentz Center der Universität Leiden versammelt und über Monate eine Charta ausgearbeitet, die nun veröffentlicht wurde. Die „Leiden Declaration on Artificial Intelligence and Mathematics“ ist ein elfseitiger Versuch, Leitplanken einzuziehen, bevor die KI das akademische Gefüge überrollt - und sie kommt zu einem Zeitpunkt, an dem die Technologie selbst vor einem qualitativen Sprung stehen könnte, den Experten als „rekursive Selbstverbesserung“ bezeichnen.

Die Leiden Declaration: Transparenz statt Blackbox

Das Kernanliegen der Unterzeichnenden, zu denen Mathematiker, Informatiker und Mathematikhistoriker gehören, ist der Erhalt der grundlegenden Werte ihrer Wissenschaft. Transparenz, Nachvollziehbarkeit und die Möglichkeit zur freien Überprüfung durch Peers sind nicht nur akademische Tugenden, sondern die Basis, auf der mathematisches Wissen seit Jahrhunderten aufbaut. „Fast jede moderne mathematische Arbeit kann kostenlos auf arXiv.org gelesen werden, und die American Mathematical Society unterhält ein eigenes kuratiertes Repositorium“, erklärt Jim Portegies, Mathematiker an der Technischen Universität Eindhoven und Leiter des Projekts. Dieses Prinzip, das jedem Menschen auf der Welt Zugang zu neuem Wissen ermöglicht, sieht Portegies durch die Praxis großer KI-Labore akut gefährdet.

Das auffälligste Beispiel lieferte Google DeepMind. Als das Unternehmen 2024 stolz verkündete, sein Modell AlphaProof habe drei schwierige Aufgaben eines Mathematikwettbewerbs gelöst, dauerte es mehr als ein Jahr, bis die zugrundeliegenden Methoden in einer begutachteten Fachzeitschrift publiziert wurden. „Wenn es um KI-Beweise geht, ziehen wir uns hinter verschlossene Türen zurück, weil nun ein großes kommerzielles Interesse besteht“, sagt Portegies im Gespräch mit Scientific American. Die Furcht: Der wissenschaftliche Fortschritt wird zu einem Marketinginstrument degradiert, bei dem die Inszenierung wichtiger ist als die methodische Reinheit.

Die Declaration fordert daher drei zentrale Säulen: Erstens die zwingende Offenlegung von KI-Nutzung in der Forschung. Zweitens die Sicherstellung, dass alle Beiträge, menschlich oder maschinell, einem strengen Peer-Review unterzogen werden. Und drittens die Schaffung von gleichen Wettbewerbsbedingungen zwischen Universitäten und gewinnorientierten Unternehmen - etwa durch rechtliche Unterstützung und öffentliche Fördermittel für unabhängige Grundlagenforschung. „Mathematiker, die nie die Absicht hatten, zur KI-Entwicklung beizutragen, müssen erleben, wie ihre Arbeit ohne ihre Zustimmung für diesen Zweck genutzt wird“, kritisiert Rodrigo Ochigame, Anthropologe und KI-Forscher an der Universität Leiden, der die Ausarbeitung mitinitiierte. „Das ist eine zutiefst beunruhigende Situation.“

Der Geist aus der Maschine: Wenn KI sich selbst verbessert

Während die Mathematiker um die Integrität bestehenden Wissens ringen, warnt mit Anthropic ausgerechnet eines der ambitioniertesten KI-Unternehmen vor einer Zukunft, die das Problem potenzieren könnte. In einem Blogbeitrag mit dem Titel „When AI Builds Itself“ skizzierte das Unternehmen im Juni 2026 die Möglichkeit einer sogenannten rekursiven Selbstverbesserung. Gemeint ist der Punkt, an dem hoch entwickelte KI-Systeme ihre eigenen Nachfolger mit immer weniger menschlichem Zutun entwerfen und implementieren. Anthropic sieht die Branche an einer Schwelle, die „enorme Implikationen“ für die Gesellschaft haben könnte.

Ein oft zitiertes Indiz liefert der hauseigene Programmierassistent Claude Code. Laut Anthropic stammt mittlerweile über 80 Prozent des Codes, der in die firmeneigenen Systeme integriert wird, von Claude selbst - ein gewaltiger Sprung von niedrigen einstelligen Prozentzahlen vor der Veröffentlichung des Tools Anfang 2025. Die Ingenieure der Firma veröffentlichen pro Quartal etwa das Achtfache an Code im Vergleich zu früheren Jahren. Bei jedem Entwicklungsschritt, so das nüchterne Fazit, schrumpft die Rolle des Menschen. „Wir sind noch nicht so weit, und rekursive Selbstverbesserung ist nicht unausweichlich“, schrieb das Unternehmen, „aber sie könnte schneller kommen, als die meisten Institutionen vorbereitet sind.“

Anthropics radikaler, aber vage bleibender Vorschlag: Ein globaler Koordinationsmechanismus, der die Entwicklung drosseln oder gar pausieren könnte, falls die Selbstverbesserung Realität wird. Als lose Analogie dienten historische Rüstungskontrollabkommen. Doch der Aufruf zum Innehalten in einem Wettrennen, bei dem Anthropic selbst zu den Führenden zählt, trifft auf vehemente Skepsis. Noah Giansiracusa, Mathematikprofessor an der Bentley University und Autor von Büchern über Algorithmen und Gesellschaft, hält das für wenig glaubwürdig. „Wir haben die Blogbeiträge von [Anthropic-CEO] Dario Amodei gelesen. Ich glaube, er will mit Vollgas weitermachen.“ Die Forderung passe zu einem Muster, bei dem Unternehmen kurz vor einem Börsengang - Anthropic hat vertraulich einen IPO beantragt und wurde zuletzt mit fast einer Billion Dollar bewertet - mit spektakulären Warnungen regulatorische Aufmerksamkeit auf die gesamte Branche lenken, während sie selbst weiter vorpreschen.

Die große Lücke: Fehler im Maschinenrauschen

Der Clash zwischen immer mächtigeren, aber intransparenten Systemen und den Grundfesten der Wissenschaft wird in den Fachzeitschriften bereits mit Händen greifbar. Ilka Agricola, Mathematikerin und Vorsitzende des Publikationskomitees der Internationalen Mathematischen Union (IMU), beschreibt eine dramatische Entwicklung: „Die Posteingänge der Herausgeber füllen sich mit mehr KI-Beweisen, als sie prüfen können.“ Während ein von Menschen verfasster Beweis theoretisch von jedem Experten mit dem entsprechenden Fachwissen verifiziert werden kann, neigen KI-Modelle zu subtilen, schwer erkennbaren Fehlermustern. Große Sprachmodelle „erbrechen menschliche Ideen, oft ohne Quellenangabe“, so die Diagnose der Leiden Declaration.

Die daraus resultierenden Gefahren gehen weit über mathematische Spitzfindigkeiten hinaus. Wenn ungeprüfte oder fehlerhafte KI-Ergebnisse in den Wissenskanon einsickern, droht eine schleichende Erosion der Vertrauenswürdigkeit. Hinzu kommt die divergierende Zielsetzung: Mathematik forscht nach neuen Konzepten und tiefgreifendem Verständnis; Tech-Konzerne fokussieren sich oft auf spektakuläre Resultate, die ihre Modelle glänzen lassen, aber für das Fachgebiet marginal bleiben. Die Declaration fordert deshalb ein explizites Regime strengerer Prüfregeln für KI-generierte Beiträge. „Wir haben jetzt einen Ausgangspunkt für Entscheidungsfindungen, für Diskussionen“, sagt Agricola. „Das ist ein immenser Dienst an der gesamten Gemeinschaft. Ich liebe es.“

Die IMU, die einflussreichste globale Organisation der Mathematik, will die Leiden Declaration offiziell unterstützen. Im Sommer 2026 wird Jim Portegies sie auf der internationalen Konferenz der Union vorstellen - eine Charta, die das fragile Gleichgewicht zwischen menschlicher Kreativität und maschineller Potenz neu justieren soll.

• Offenlegungspflicht: Jeder Einsatz von KI in der Forschung muss transparent gemacht werden.
• Strengeres Peer-Review: KI-Beweise bedürfen spezieller Prüfverfahren, um versteckte Fehler zu entdecken.
• Faire Ressourcen: Öffentliche und rechtliche Unterstützung, um den akademischen Sektor gegenüber der Industrie zu stärken.
• Zugang und Zustimmung: Die Arbeit von Wissenschaftlern darf nicht ohne Einverständnis zum Trainieren kommerzieller KI genutzt werden.

Kontrolle oder Kollaps der Kreativität

Die Warnung von Anthropic vor rekursiver Selbstverbesserung und die Forderung der Mathematiker nach strengen Regeln mögen auf den ersten Blick unterschiedliche Debatten sein. Tatsächlich aber sind sie zwei Seiten derselben Medaille. Beide drehen sich um die Frage, ob Menschen Geschwindigkeit und Richtung einer von ihnen selbst entfesselten Technologie noch bestimmen können - sei es in der reinen Erkenntnis oder im prallen Scheinwerferlicht der Kapitalmärkte. Der in der Anthropic-Debatte geäußerte Verweis auf das „Unkontrollierbare“ spiegelt sich im Kernanliegen der Leiden Declaration wider: einer Angst vor dem stillen Verschwinden des Nachvollziehbaren.

Noah Giansiracusa von der Bentley University bleibt trotzig: „Die Firmen kokettieren mit der Idee der technologischen Singularität. Ich sehe das nicht. Ich sehe einen stetigen Fortschritt, der vielleicht beschleunigt, vielleicht auch nicht. Der Code, der heute von KI geschrieben wird, ist ein Hilfsmittel - kein großer Sprung.“ Dennoch: Wenn Maschinen die Bausteine der Wahrheit schneller liefern, als sie geprüft werden können, dann wird der Zweifel selbst zur einzigen Konstante. Die Leiden Declaration ist ein Versuch, nicht die KI zu stoppen, aber den menschlichen Blick auf sie scharf zu halten. Ob das gelingt, hängt weniger von Algorithmen ab als von dem Willen einer Gemeinschaft, die ihre eigene intellektuelle Souveränität nicht dem nächsten beeindruckenden Schachzug einer Technologiefirma opfern will.

Quellen:

• PRC-linked influence operations are targeting AI debates in the US (OpenAI Blog)
• Deep learning four decades of human migration (Nature - News)
• AI in science recruitment: friend or foe? Join our free webinar (Nature - News)
• Anthropic warns AI may soon begin recursive self-improvement (Scientific American)
• Mechanisms and Mitigations of Social Media’s Socially Isolating Effects (Psychology Today - Articles)
• Mathematicians sign declaration to rein in AI use (Scientific American)

// weiterlesenWenn der Algorithmus den Karrierestart blockiert: Warum KI die Junior-Jobs frisstAlgorithmenWarum ein simpler Algorithmus mindestens die Hälfte aller Cloud-Jobs rettetAlgorithmenWie prüft man, ob eine KI wirklich vergisst? Die Mathematik hinter dem digitalen GedächtnislöschenAlgorithmen

Kinetyra