25 Fields-Medaillen-Träger kritisieren OpenAI in offenem Brief
Fünfundzwanzig Mathematiker mit Fields-Medaille haben einen offenen Brief unterzeichnet, in dem sie KI-Labore dafür kritisieren, dass sie mit teuren KI-Beweisen die Urheberschaft und Offenheit der Mathematik gefährden.
👁 113 Aufrufe
Fünfundzwanzig Träger der Fields-Medaille - der renommiertesten Auszeichnung in der Mathematik - haben einen offenen Brief unterzeichnet, in dem sie KI-Labore beschuldigen, die intellektuelle Arbeit von Mathematikern zu gefährden. Der Brief erscheint inmitten einer Reihe konkreter Konflikte: NYU-Professor Tristan Buckmaster warf OpenAI diese Woche vor, ihn unter Druck gesetzt zu haben, einen Mitarbeiter von Anthropic nicht als Mitautor bei der Lösung eines wichtigen mathematischen Problems zu nennen. Buckmaster fragte zudem öffentlich, ob OpenAI seine gemeinsame Arbeit mit dem Werkzeug Codex genutzt haben könnte, um am verlängerten Wochenende einen eigenen, weitreichenden Beweis zu produzieren. Am Donnerstag zog OpenAI seine Sponsoring-Zusage für eine Mathematik-Veranstaltung am Caltech zurück, nachdem Forscher der Universität das Unternehmen kritisiert hatten. OpenAIs eigener Beweis gilt bislang als unverifiziert.
- 25 Fields-Medaillen-Träger warnen in einem offenen Brief, dass KI-Labore die Forschungskultur der Mathematik bedrohen
- NYU-Professor Tristan Buckmaster wirft OpenAI vor, ihn unter Druck gesetzt zu haben, einen Mitarbeiter von Anthropic als Mitautor eines Beweises nicht zu nennen
- OpenAI zog seine Sponsoring-Zusage für eine Mathe-Veranstaltung am Caltech zurück, nachdem Forscher dort das Unternehmen öffentlich kritisierten
Beweise ohne Kontext, Zuschreibung ohne Transparenz
Im Kern geht es den Unterzeichnern nicht nur um einzelne Fehler, sondern um ein strukturelles Problem. In ihrem Brief schreiben sie: „Oft werden diese Lösungen in einer Eile angekündigt, die keine Zeit lässt für eine ordentliche Ausarbeitung, die Isolation neuer Methoden und Ideen und das Zitieren relevanter Vorarbeiten anderer.“ Weiter heißt es: „Wie in allen kreativen Berufen wirft dies ernste Fragen zur Urheberschaft und zu Plagiaten auf. Ohne die Mathematiker, die bereit sind, diese Ideen zu entwickeln und in den mathematischen Kanon zu integrieren, würden KI-generierte Ideen niemals vollständig zum Leben erwachen, und die entscheidende menschliche Übertragungskette zwischen Mathematikern ginge verloren.“
Viele Mathematiker sind inzwischen besorgt, dass ihre eigene Nutzung von Codex in die neuen Modelle von OpenAI eingeflossen sein könnte - eine Sorge, die laut dem Brief die Kultur der offenen Forschung bedroht. Das wirtschaftliche Ungleichgewicht verschärft das Problem: Wenn ein Frontier-Labor einen erfolgversprechenden Weg zu einer Entdeckung erkennt, kann es tens of millions of dollars in LLM-Inferenz investieren, um die ursprünglichen Forscher bei der Veröffentlichung eines Beweises zu überholen. Dieses Gefälle schaffe, so die Unterzeichner, starke Anreize für Geheimhaltung statt Offenheit.
Der aktuelle Brief folgt der Leiden Declaration, die eine Arbeitsgruppe von Mathematikern im Juni veröffentlichte und die ebenfalls Empfehlungen für Mathematiker, Institutionen und politische Entscheidungsträger enthält. Die Unterzeichner des neuen Briefes formulieren den Anspruch explizit als universell: „Die Probleme, mit denen die mathematische Gemeinschaft jetzt konfrontiert ist, ähneln denen, mit denen andere wissenschaftliche und kreative Berufe konfrontiert sind, und deuten auf Probleme hin, mit denen die gesamte Menschheit konfrontiert sein könnte.“
More on this from WISSNOX
nachrichten·25 Fields-Medaillen-Träger warnen vor KI-Bedrohung für mathematische Forschungskultur