OpenAI und der Durchbruch bei Navier-Stokes: Ein Streit um Priorität und Methoden

Der Kernabschnitt:

> Allerdings wurden die Kommunikationen schnell kontrovers. Laut Buckmaster bot OpenAI an, ihm die alleinige Urheberschaft an der Navier-Stokes-Lösung zu geben – aber nur, wenn Alpöges Name aus der Arbeit entfernt würde und wenn in der Ausarbeitung anerkannt würde, dass das Problem durch ein internes OpenAI-Modell gelöst worden sei. Buckmaster lehnte ab, teilweise weil ihn die Frage beunruhigte, was OpenAIs System tatsächlich gesehen hatte. Zum Beispiel sagte Buckmaster, das Unternehmen habe ihm zunächst keine klare Antwort darauf gegeben, ob seine Agenten Zugriff auf die Logs des Paares auf Codex (ein OpenAI-Produkt) gehabt hätten.

> OpenAI-Führungskräfte haben bestritten, dass ein Mitarbeiter oder KI-Agent die Arbeit des Paares gesehen habe, bevor die Forscher sie am 7. September öffentlich veröffentlichten. Aber es bleibt eine separate Frage: Könnte die Arbeit des Paares über seine Trainingsdaten die Modelle von OpenAI erreicht haben?

> OpenAIs Blogbeitrag, in dem die Navier-Stokes-Lösung angekündigt wird, schließt diese Möglichkeit nicht aus: „Obwohl unwahrscheinlich, können wir nicht ausschließen, dass de-identifizierte Daten, die aus der Nutzung unserer Produkte durch [Buckmaster und Alpöge] stammen, zur Verbesserung unserer Modelle beigetragen haben.“

Ich denke, es war eine ziemlich fragwürdige Sache, zu versuchen, diesen Forschern zuvorzukommen, selbst wenn sie deren Techniken nicht genutzt haben. Die Tatsache, dass sie möglicherweise versehentlich deren Arbeit über Trainingsdaten „ausgeliehen“ haben, macht es noch viel schlimmer.

OpenAIs Verhalten hier – selbst wenn man nur [ihre] Seite der Geschichte betrachtet – war (bestenfalls) geschmacklos.

Das Ganze stinkt nach der Verzweiflung eines unrentablen, risikokapitalfinanzierten Startups, das nach seinem nächsten PR-Erfolg sucht, um den Wind in den Segeln zu halten.

Aber ich denke, was im Wettlauf um die Beanspruchung der absoluten Anerkennung übersehen wird, ist, dass beide Seiten letztlich auf ein LLM angewiesen waren (und noch dazu eines von OpenAI). Entweder hat ein menschlicher Forscher mit Hilfe von Codex eine bahnbrechende Entdeckung gemacht, oder das neueste GPT-Modell hat mit Hilfe menschlicher Trainingsdaten einen Durchbruch erzielt, oder ein bisschen von beidem … wie auch immer, es ist unbestreitbar, dass LLMs schnell zu einem integralen Bestandteil von F&E-Workflows geworden sind und die Forschung beschleunigen.

Das wäre ein großer Erfolg für jedes normale Unternehmen. Man könnte sogar eine größere Zusammenarbeit mit diesem Typen aufbauen, ihm ein großes Budget geben und auf Erweiterungen dieses vorläufigen Ergebnisses drängen und im Gegenzug einen Bericht darüber verfassen, wie er euer Modell in seinem Workflow einsetzt. Riesiger PR-Erfolg. Was mir das sagt, ist, dass ihre Bewertung so astronomisch ist, dass sie das Gefühl haben, der einzige Weg, sie zu rechtfertigen, sei die Demonstration eines vollständig autonomen Entdeckungsbots … was es einfach nicht ist.

> „Ich erwarte sicherlich nicht, dass die Industrie weiterhin Millionen von Dollar ausgeben wird, um Probleme in der Mathematik zu lösen, denn es gibt keinen Profit darin“, schrieb der Columbia-Universitätsmathematiker Michael Harris in einer E-Mail an Science. Aber er befürchtet, dass die stark publicierte Errungenschaft „extrem schädlich für die Mathematik sein wird; sie überzeugt Entscheidungsträger davon, dass menschliche Mathematiker obsolet sind, und sie überzeugt junge Menschen davon, dass ihre Leidenschaft für Mathematik keine Zukunft hat.“

LLMs scheinen besonders für diese Existenzbeweis-Probleme geeignet zu sein. Für universell quantifizierte Ergebnisse scheinen arbeitende Mathematiker nach wie vor absolut unerlässlich. Ich bezweifle stark, dass beispielsweise ein LLM, wenn Fermats letzter Satz nicht vor drei Jahrzehnten bewiesen worden wäre, in der Lage wäre, eine Arbeit zu leisten, die der Erfindung der Mathematik durch Andrew Wiles zur Lösung des Problems entspricht. Ähnliche Zweifel habe ich bei P vs NP, der Primzahlzwillingsvermutung, sogar bei der Riemannschen Vermutung (es sei denn, letztere hat mindestens ein Gegenbeispiel).

Und ich möchte klarstellen: Ich spiele die Errungenschaften dieser Modelle nicht herunter. Das ist bemerkenswert! Ich denke einfach, dass das Erfolgsmuster bei Existenzbeweisen oder dem Finden von Gegenbeispielen liegt, was angesichts der Funktionsweise und des Trainings von LLMs Sinn ergibt.

Ausführliche Diskussion zu OpenAIs Blogbeitrag über Navier-Stokes: https://news.ycombinator.com/item?id=49613262 .

Quanta Magazine-Artikel, der auch einige der Kontroversen diskutiert: https://www.quantamagazine.org/ai-has-solved-one-of-maths-1-...

Unabhängig vom Endergebnis wäre OpenAIs Verhalten für einen menschlichen Mathematiker ein karrierebeendender Ethikskandal. Allein dieser Teil wäre ein Karriereende.

> Laut Buckmaster bot OpenAI an, ihm die alleinige Urheberschaft an der Navier-Stokes-Lösung zu geben – aber nur, wenn Alpöges Name aus der Arbeit entfernt würde und wenn in der Ausarbeitung anerkannt würde, dass das Problem durch ein internes OpenAI-Modell gelöst worden sei.

Ich frage mich, ob eine angemessene Antwort der mathematischen Gemeinschaft ein guter alter Modus der Ächtung wäre. Mathematiker dürfen OpenAIs Werkzeuge so viel nutzen, wie sie wollen, aber niemand mit einer aktuellen oder früheren OpenAI-Verbindung wird jemals in einer renommierten Fachzeitschrift veröffentlicht.

FYI: Das vorliegende Problem ist ein Existenzproblem. Es wird keine wirkliche Konstruktion einer echten Formel für die Lösung bereitgestellt, nur eine singuläre Störungsentwicklung.

Kurz gesagt: Es geht um die Frage, ob eine Lösung (der NS-Gleichungen mit externer Antriebskraft) gefunden werden kann, die in endlicher Zeit explodiert, d. h. an einem Punkt unendliche Geschwindigkeit zeigt, selbst für eine viskose Strömung.

Die Lösung: Man nehme einen kreisförmigen Wirbelansatz, der in xy-Richtung schrumpft und in z-Richtung gestreckt wird, und schaue, ob man linearisierte Wellen finden kann, sodass diese Wellen beim Propagieren auf dem Wirbel eine Explosion zeigen. Dann beweise man, dass die höheren Ordnungen der Störung vor der T0-Singularitätszeit regulär sind, und schon hat man das Problem gelöst. Die externe Kraft ist einfach der Rest der rechten Seite der NS-Gleichung.

Es ist eine Menge mühsamer Formeljonglage mit all den höheren Ordnungen und einigen singulären Störungsentwicklungen. Perfekt geeignet für Algebra-Systeme. OpenAI verwendete wahrscheinlich Python sympy für die Formelarbeit, und die Forscher mussten das LLM anleiten, was in höherer mathematischer Sprache zu tun ist.

Hier ist das Paper:

https://cdn.openai.com/pdf/32d9f210-8b73-45e0-91bc-82a30aef8...

Wenn man es in chatgpt astra hochlädt, kann es erklären, was sie tun und warum es funktioniert, viel Spaß.