Terry Tao fragt: Wird KI das Goldene oder das Dunkle Zeitalter der Mathematik einläuten?
Will it be a golden age or a dark age for mathematics (and science)?
In einem Gastbeitrag auf Terry Taos Blog untersucht Francesco Maggi, wie Large Language Models die Mathematik und die Wissenschaften verändern könnten. LLMs liefern bereits korrekte Lean-Beweise für schwere Probleme, doch deren maschinelle Übersetzungen sind oft unlesbar – menschliches Verständnis bleibt entscheidend. Maggi skizziert zwei Szenarien: ein Goldenes Zeitalter, in dem KI die Mathematisierung ganzer Wissenschaften beflügelt, und ein Dunkles Zeitalter, in dem Wissen für Menschen fremd wird. Acht Punkte und konkrete Vorschläge folgen.
Die eigentliche Dunkelheit bestünde darin, dass das Wissen dem menschlichen Verständnis fremd wird.
- dualvariable
Ich glaube, ich stehe bei dieser Frage ein wenig auf der Seite des "Goldenen Zeitalters".
Die Mathe-Slopocalypse ist nicht nützlich, wenn man sie nicht in Mathematik verwandeln kann, die echten Menschen beigebracht werden kann, indem man die zugrundeliegenden vereinheitlichenden Prinzipien findet.
All diese O(n log(n)^(1-delta))-Ergebnisse legen nahe, dass hinter allen wahrscheinlich ein vereinheitlichender "Trick" steckt und dass es für jedes Problem eine Obergrenze für delta geben wird. Das sollte man wirklich in einem Lehrbuch vermitteln können, und dann sollte jeder menschliche Student jedes der LLM-Ergebnisse als Übungsaufgabe nachvollziehen können.
Für alles, was ein LLM mit Tausenden oder Millionen Zeilen Lean-Code beweist, gibt es wahrscheinlich irgendwo einen fehlenden Zweig der Mathematik.
Echte Menschen müssen sich an den Problemen und den LLM-generierten Lösungen abarbeiten, bis sie die zugrundeliegenden Prinzipien finden, wahrscheinlich mit KI-Unterstützung.
Man wird wahrscheinlich nicht dorthin gelangen, indem man einfach ein LLM bittet, einen neuen Zweig der Mathematik zu erfinden und "mach keine Fehler"; die Mathematiker, die gut darin werden, LLMs anzuleiten, nach vereinheitlichenden Prinzipien zu suchen, und dann die Ergebnisse zu synthetisieren (und zu überprüfen), werden in ihrem Fachgebiet wahrscheinlich sehr erfolgreich sein.
- jacquesm
Ich verstehe, dass Tao in erster Linie Mathematiker ist, und ich respektiere die Tatsache, dass er in seinem "Wheelhouse" bleibt (er hat den Beitrag nicht geschrieben, aber er hat ihn in seinem Blog gepostet). Aber ich denke, es wäre fair, zu extrapolieren und sich diese Frage nicht nur für die Mathematik, sondern für die gesamte Wissenschaft zu stellen. Man bedenke, dass wissenschaftliches Wissen gehortet oder zur Patentierung von Dingen genutzt werden kann und dass es reichlich Beweise dafür gibt, dass OpenAI, Anthropic und möglicherweise andere nach anderen Einnahmequellen[1] als nur dem Verkauf des Zugangs zu ihren KI-Inferenzmaschinen streben werden.
Ich kann mir eine Zukunft vorstellen, in der diese Unternehmen zu den neuen Zaibatsus[2] werden, die Patente über eine Vielzahl von Themen halten und sich gegenseitig verstärkende Silos proprietärer Technologie besitzen, die von hausinterner KI geschaffen wurde, die der Rest der Welt finanziert hat, aber keinen Zugang zu ihr hat.
[1] Zum Beispiel: https://www.reuters.com/world/anthropic-quietly-sets-up-biol...
- ttul
Meine Lesart von Terence Taos jüngsten Kommentaren ist, dass professionelle Mathematiker hauptsächlich darüber verärgert sind, dass von KI eingereichte mathematische Arbeiten die Art von breitem Lehrinhalt vermissen lassen, die hochwertige menschliche mathematische Arbeiten bieten. Obwohl die Antwort richtig sein mag, lehren KI-Mathematikarbeiten den Leser nicht so, wie es ein menschlicher Autor tun würde. Professionelle Mathematik besteht nicht nur darin, Probleme zu lösen; es geht ebenso sehr darum, Wissen zu verbreiten, damit andere ihre menschlichen Gehirne mit demselben Verständnis programmieren können, das der Autor der Arbeit hatte, als er sie schrieb (und das Ergebnis erzielte).
Mit anderen Worten, die Krise in der Mathematik (so wie ich sie lese) besteht darin, dass KI lösen kann, ohne zu lehren. Das Ergebnis mag beeindruckend sein, aber wenn die einzigen Wesen, die die Mathematik in Zukunft voranbringen können, Maschinen sind, die Milliarden von Szenarien durchrechnen, für die kein Mensch die Geduld hätte, dann lässt das diejenigen in der Branche über ihren Platz darin nachdenken.
- itsalwaysgood
Das sind alles großartige Punkte, aber ich möchte auch darauf hinweisen, dass das "Dunkle Zeitalter"-Szenario ein hochgradig kompetitives Szenario ist, während das "Goldene Zeitalter"-Szenario ein hochgradig kollaboratives ist.
Ich glaube nicht, dass die Technologie in einem der beiden Szenarien versiegen wird. Im "Dunklen Zeitalter", dem hochgradig kompetitiven Szenario, wird es immer noch diejenigen geben, die "verstehen, was produziert wird" und nach Fortschritt und Weiterentwicklung streben. Sie werden sich mit wem auch immer bzw. welcher Organisation auch immer zusammentun, die die besten, am besten validierten Ergebnisse produziert.
Ich glaube nicht, dass Wissen dem menschlichen Verständnis fremd werden würde, es würde nur wieder stark konzentriert werden, wie es in der Vergangenheit der Fall war. In der Vergangenheit konnten sich nur die Wohlhabenden und Adligen leisten, Zeit für Bildung aufzuwenden.
Und normalerweise waren diejenigen, die tief in ein Fachgebiet eindrangen und Beiträge zur Wissenschaft leisteten, diejenigen, die Zeit hatten, ihr ganzes Leben dem Studium oder der Verfolgung von Wissen zu widmen. Wir haben diese Probleme auch heute noch, und diese Probleme werden immer vorhanden sein.
Es gibt eine Lieferkette der Wirtschaft, und wir bieten unterschiedliche Belohnungen basierend auf dem Wert dessen, was produziert wird. Die Jobs verschwinden nie, das Verlangen nach Prestige, Gier usw. verschwindet nie. Deshalb existieren Volkswirtschaften, und deshalb denken alle über den Wert von LLMs und ihren Platz in Volkswirtschaften und Akademien nach (die vermutlich existieren, um das menschliche Verständnis/Wertschätzung zu fördern, aber auch um jüngere Generationen auf zukünftige Arbeit vorzubereiten).
- odyssey7
Natürlich ein Goldenes Zeitalter.
Ich bin darüber nicht mehr verbittert – es ist lange her. Aber die Geschichte hat etwas an sich.
Damals wusste ich, dass ich talentiert in Mathematik war, und ich wollte eine Forschungskarriere verfolgen. Für einen Forschungskurs im ersten Studienjahr wählte ich ein Problem, das absichtlich außerhalb meiner Komfortzone lag, und kam auf einige coole Ideen. Es war allerdings nicht publikationsreif, obwohl der Kurs nicht wirklich Publikationen erwartete.
Das Problem so zu formulieren, dass es mit Analysis lösbar war, erwies sich als entscheidender Einblick. Ich wandte mich an Wolfram, da die Integrale über das hinausgingen, was ich als Erstsemester selbst hätte lösen können, und ich verstand, dass der Einblick, der zur Lösung führte, meine eigene Arbeit war. Ich glaube nicht, dass jemand in der Klasse diese Integrale hätte lösen können. Der Dozent selbst konnte mir nicht sagen, was daran falsch war, falls überhaupt etwas. Dennoch war er unbeeindruckt und subtil abweisend oder kritisch.
Heute wäre ich vielleicht in der Welle von Forschern gewesen, die KI für mathematische Arbeit entwickeln. Der Dozent hätte stolz darauf sein können, durch seine Mentorschaft die Mathematik geprägt zu haben. Die Universität hätte mich vielleicht zu Vorträgen eingeladen. Stattdessen habe ich die Mathematik als Fachgebiet ganz verlassen. Jetzt schreibe ich Software für eine Bank.
Die Welt ist so reich, wie wir sie machen. Lass deine Chancen und dein Potenzial nicht verfallen. Nutze die Materialien, die dir zur Verfügung stehen, sonst wird es jemand anderes tun, dich ausstechen, und du wirst den Moment verpasst haben.
Ich verstehe, dass es eine romantische Vorstellung von […]
- ldng
Ich wette auf ein kurzes Goldenes Zeitalter, in dem KI die tief hängenden Früchte des einfachen (für einen Computer) Querverweisens und Schließens ernten wird. Und dann ein Dunkles Zeitalter, in dem niemand daran interessiert ist, neue Ideen auf dem Gebiet zu veröffentlichen. Hoffentlich irre ich mich.
- grandpajoey
Autorschaft und Anerkennung scheinen in der Mathematik Anti-Patterns zu sein. Einer der am wenigsten zugänglichen Teile der Mathematik ist für mich, dass buchstäblich alles nach Personen benannt ist. Navier-Stokes? Wer? Ich will es ehrlich gesagt nicht wirklich wissen, ich hätte lieber, dass die Ideen und Informationen mit einer Priorisierung auf Verständnis gerahmt werden, nicht auf den Ruf des Autors. Ich empfinde dasselbe für die ganze griechische Notation – es ist 2026, können wir nicht etwas im regulären Umlauf Befindliches verwenden, um das Publikum zu erweitern?
Vielleicht kann KI diese Situation tatsächlich drastisch verbessern, indem sie die Lücke zwischen denen "im Club" und denen, die etwas Nützliches mit mathematischen Ideen tun wollen, überbrückt.
- nestorD
Einige großartige Gedanken, von denen viele über die Mathematik hinausgehen.
Einer insbesondere, über das Teilen von Geheimnissen, der mir nicht in den Sinn gekommen war (ich habe festgestellt, dass praktisch niemand das Kästchen "nicht mit meinen Daten trainieren" ankreuzt...):
> Ähnlich scheint es, dass Mathematiker bereits besorgt und zurückhaltend sind, was sie in Forschungsberichten und Forschungsanträgen schreiben. Schließlich könnte ein Administrator oder Gutachter diese Dokumente in ein LLM hochladen, um Hilfe beim Verfassen eines Berichts zu erhalten, wodurch möglicherweise die Vertraulichkeit unveröffentlichter Forschung beeinträchtigt wird.