Mathematiker hassen KI. Und können doch nicht ohne sie
Führende Mathematiker werfen KI-Konzernen vor, ihre Arbeit ohne ausreichende Nennung zu nutzen, greifen aber dennoch im Forschungsalltag auf die Sprachmodelle zurück.
Das Wichtigste
- Tristan Buckmaster glaubt, OpenAI habe seine Arbeit genutzt, um das Navier-Stokes-Problem zu lösen.
- Buckmaster verwendet trotz seiner Kritik weiterhin KI-Modelle wie Codex.
- OpenAI führte eine Untersuchung durch und erklärte, Buckmasters Prompts hätten das System nicht beeinflusst.
- Andreas Thom stellt fest, dass sein Fachgebiet durch KI grundlegend verändert wird.
- Über 4.000 Personen haben die Leiden-Erklärung zur Regulierung von KI in der Mathematik unterzeichnet.
Der Mathematiker Tristan Buckmaster ist überzeugt, dass OpenAI seine Arbeit genutzt hat, um ihm zuvorzukommen und ein legendäres mathematisches Problem mit einem Preisgeld von 1 Million Dollar als Erste zu lösen. Doch das reicht offenbar nicht aus, um ihn vom Gebrauch der Firmenmodelle abzuhalten – und er ist nicht der einzige Mathematiker, dem es so geht. „Selbst wenn man mit alledem nicht einverstanden ist, steckt man irgendwie fest. Da KI so nützlich ist, kann man sich kaum völlig davon abhalten, sie zu nutzen“, sagt Buckmaster gegenüber WIRED. „Diese Unternehmen haben ein Monopol, und es gibt nicht viel Auswahl“, fügt er hinzu.
In den anderthalb Wochen, seit der Professor der New York University OpenAI beschuldigt hat, seinen Ansatz kopiert zu haben, hat Buckmaster den Coding-Agenten Codex des Unternehmens genutzt, um seine Forschungsarbeiten aufzuräumen. Wenn er Zeit für Mathematik hat (was seiner Meinung nach selten ist, da der Wirbel ihn ins Rampenlicht rückte), hilft ihm das Tool zu verstehen, welche logischen Schritte OpenAI-Agenten unternommen haben könnten, um von seinen früheren Vorarbeiten zum endgültigen Beweis zu gelangen.
Buckmaster hatte sowohl Codex als auch das konkurrierende Modell Claude von Anthropic verwendet, um an dem sogenannten Navier-Stokes-Existenz- und -Glattheitsproblem zu arbeiten, gemeinsam mit dem Anthropic-Forscher Levent Alpöge. OpenAI setzte Zehntausende Agenten ein, um die Lösung zu finden, allerdings erst, nachdem das Unternehmen erfahren hatte, dass die Gleichung kurz vor der Lösung stand, so Buckmaster.
Als Buckmaster mit seinen Vorwürfen an die Öffentlichkeit ging, entfachte dies einen heftigen Streit darüber, ob Künstliche Intelligenz menschliche Mathematiker überflüssig machen wird. Dies veranlasste OpenAI auch dazu, eine Untersuchung durchzuführen und seine Ankündigung zur Lösung des Navier-Stokes-Problems dahingehend zu ergänzen, dass „bestätigt wurde, dass Buckmasters Codex-Prompts in den zwei Monaten vor dieser Ankündigung und der Veröffentlichung des Papiers am 8. September 2026 das System in keiner Weise beeinflusst haben können, auch nicht durch Training“. Das Unternehmen verwies WIRED in einer E-Mail auf diese Ankündigung.
Zu zeigen, dass KI die Grenzen der Mathematik verschiebt, sei „wichtiger als das Ergebnis“, sagt Buckmaster. Doch Lösungen für langjährige mathematische Probleme zu produzieren, ohne die menschliche Arbeit, die ihnen zugrunde liegt, vollständig zu würdigen – insbesondere vor großen Börsengängen –, sei unverantwortlich und „kinderleicht“, so Buckmaster.
Andere Mathematiker haben ähnliche Bedenken geäußert. Nur eine Handvoll Menschen auf dem Planeten verstehen die Techniken der geometrischen Gruppentheorie, deren Entwicklung der deutsche Mathematiker Andreas Thom die letzten zwei Jahrzehnte gewidmet hat. Als OpenAI im August erklärte, sein Astra-Modell habe sie genutzt, um ein langjähriges Problem zu beweisen, an dem er gearbeitet hatte, „war ich erstaunt“, sagt Thom. „Und natürlich habe ich mich gefragt: Wie haben sie davon erfahren?“
Deshalb habe er die OpenAI-Forscher Mark Sellke und Sébastien Bubeck gefragt. In einer E-Mail vom August wies er darauf hin, dass die Behauptung der Firma, in den letzten zehn Jahren seien „keine Fortschritte“ bei dem Problem erzielt worden, ein Papier von ihm aus dem Jahr 2019 sowie die Arbeit anderer Mathematiker übersehe. Das Unternehmen änderte daraufhin seine Pressemitteilung.
Er und ein Kollege hatten ChatGPT genutzt, um ihre Arbeit an dem Problem in den Monaten vor dem Ergebnis zu unterstützen, aber auf seine Frage, ob ihre Interaktionen in die Trainingsdaten eingeflossen seien, antwortete Sellke laut Thom: „Das ist nicht passiert.“
„Ich habe das beiseitegelegt“, erinnert sich Thom. „Mich interessieren diese politischen Dinge nicht so sehr; ich möchte Mathematik machen.“ Obwohl Thom die Erklärung von OpenAI gesehen hat, dass Buckmasters Prompts das System nicht beeinflusst haben können, sagt er, er vertraue dem nicht und räumt ein, dass er wahrscheinlich nie erfahren wird, ob seine Arbeit tatsächlich zum Ergebnis beigetragen hat.
„KI tötet wirklich die gesamte Idee, dass man zurückverfolgen könnte, wer was beigetragen hat“, sagt er. „Das ist wahrscheinlich vorbei.“
Das ist ein großer Unterschied zu der Art und Weise, wie Wissenschaft normalerweise betrieben wird, bei der Akademiker ihre Ergebnisse einem Peer-Review unterziehen und auf der Arbeit der anderen mit entsprechender Anerkennung aufbauen. Abgesehen von der Verwischung der Urheberschaft wirft die Tatsache, dass Menschen immer noch nicht jeden Schritt vollständig verstehen, den die OpenAI-Agenten unternommen haben, um das Navier-Stokes-Ergebnis zu erzielen, auch existenzielle Fragen für Mathematiker auf, die sehen, wie ihr Fachgebiet ihrem Verständnis entgleitet.
„Wenn ich einen Beitrag zur Mathematik leisten möchte, wie mache ich das heutzutage als bloßer Mensch, während diese Billionen-Dollar-Unternehmen mitmischen?“, sagt der Mathematiker Alex Townsend von der Cornell University, Mitautor eines bevorstehenden Buches über die Entwicklung des Fachgebiets. Seit August hat Townsend erlebt, wie viele seiner Kollegen sich fragen, was sie über die Technologie wissen müssen und wie sie Abonnements abschließen können, um auf leistungsstärkere Modelle zuzugreifen.
„Ich fühle mich gleichzeitig aufgeregt und nervös“, sagt Townsend. „Aufgeregt, weil ich Dinge erreichen kann, die ich ohne sie nicht erreichen könnte, und nervös, weil ich mich frage: Okay, was ist hier eigentlich mein Zweck?“
Thom akzeptiert, dass sich sein Studienbereich verändert, und hat ChatGPT weiterhin genutzt – mit aktualisierten Datenschutzeinstellungen, um zu verhindern, dass seine Arbeit zum Trainieren der Daten verwendet wird –, um das Schreiben von Papieren zu beschleunigen, da dies „extrem effizient“ ist. (Die Angebote von OpenAI über Universitäten und auf Unternehmensebene sind standardmäßig so eingestellt, dass keine Modelle mit den Daten der Nutzer trainiert werden.)
„Wenn ein Mensch das aktiv getan hätte, wäre ich sehr, sehr wütend“, sagt er über jemanden, der seine Arbeit ohne Namensnennung verwendet. Aber wenn Informationen durch eine Hintertür in das Modell gezogen wurden, von einem Algorithmus, den niemand vollständig versteht, „könnte ich wahrscheinlich damit leben“, sagt er.
Einige Mathematiker sind weniger nachsichtig. Fünfundzwanzig Fields-Medaillengewinner schrieben in einem offenen Brief, dass KI-Unternehmen und Mathematiker „schwer fehlausgerichtet“ seien. Mehr als 4.000 Menschen haben die Leiden-Erklärung unterzeichnet, die eine Reihe von Empfehlungen enthält, wie Mathematiker, Geldgeber und Politiker sicherstellen können, dass KI das Fachgebiet nicht verschlingt.
Buckmaster befürchtet die Möglichkeit, KI zu nutzen, „um ein wenig Grammatik zu bereinigen, und plötzlich werden jahrelange Arbeiten in Nutzerdaten verschlungen und an einen anderen Mathematiker oder Doktoranden verkauft. Das ist es, worüber sich die meisten Mathematiker meiner Meinung nach am meisten sorgen, und ich halte das für ein echtes Problem“.
Da keine Aufsicht in Sicht ist und sich die KI weiter im Fachgebiet verankert, wollen einige Mathematiker einen Weg finden, zumindest auf die Bremse zu treten. Dazu gehören mehr als 2.000 Personen mit Verbindungen zum Caltech, die die Organisatoren eines KI-Mathe-Hackathons an der Schule aufforderten, die Veranstaltung auszusetzen. Der Hackathon wurde von Anthropic und OpenAI gesponsert, wobei letztere sich inzwischen zurückgezogen haben.
Doch alle Versuche, die Dinge zu verlangsamen, sind vielleicht vergeblich, vor allem langfristig. „Ich glaube nicht, dass das wirklich nachhaltig ist wegen des Effizienzgewinns“, den die KI bietet, sagt Thom. Alle Mathematiker – insbesondere Forscher am Anfang ihrer Karriere – riskieren, „isoliert“ zu werden, wenn sie KI nicht zur Beschleunigung ihrer Arbeit nutzen, fügt er hinzu.
Er und Buckmaster sind beide der Meinung, dass die Gemeinschaft darüber nachdenken muss, was die Technologie für jüngere Mathematiker bedeutet und wie der Übergang gestaltet werden kann.