Tristan Buckmaster: KI-Beweis für Navier-Stokes-Blowup sorgt für Kontroverse
Navier-Stokes – Tristan Buckmaster [pdf]
Der Mathematiker Tristan Buckmaster berichtet, dass er und Levent Alpöge mit Hilfe von LLMs den Beweis für das finite-time Blowup der inkompressiblen Euler-Gleichungen mit glattem Forcing erbracht haben. Kurz vor der Veröffentlichung erfuhr Buckmaster, dass ein internes OpenAI-Modell einen ähnlichen Beweis für die Navier-Stokes-Gleichungen erzielt haben soll. OpenAI schlug vor, die Ergebnisse gemeinsam zu veröffentlichen, verlangte jedoch, Alpöge von der Autorenschaft auszuschließen. Buckmaster lehnte ab und wirft OpenAI vor, versucht zu haben, seine Arbeit zu untergraben.
Ich möchte klarstellen, was ich nicht behaupte: Ich habe den Beweis von OpenAI nicht gesehen. Ich weiß nicht, was ihr Modell getan hat oder wie. Ich weiß nicht, ob unsere Daten verwendet wurden. Ich beschuldige niemanden. Ich stelle fest, was mir gesagt wurde, wann und was mir vorgeschlagen wurde.
- n2d4
Drama-/Anschuldigungs-Zusammenfassung:
- 15. August: Tristan Buckmaster und Levent Alpöge machen Fortschritte bei einigen wichtigen Mathematikproblemen, "endlicher Blow-up mit glattem Antrieb für inkompressible poröse Medien, für Boussinesq und für 3D-inkompressible Euler-Gleichungen."
- Sie haben KEINEN Beweis für das 1.000.000-Dollar-Millennium-Problem. ABER sie behaupten, einen Beweis für ein ähnliches (Nicht-Millennium-)Navier-Stokes-Problem zu haben, das den Weg dorthin ebnen könnte.
- Levent arbeitet bei Anthropic, aber diese Forschung war unabhängig von seiner Arbeit dort, mit einer Mischung aus GPT- und Claude-Modellen. Tristan ist nicht mit Anthropic verbunden.
- Anfang September: Das Gerücht verbreitet sich bei OpenAI, dass Anthropic ein großes Problem gelöst hat. Tristan mailt OpenAI, um das klarzustellen, ohne preiszugeben, welches Problem sie gelöst haben oder wie.
- Nachdem OpenAI von dem Gerücht gehört hat, beginnen sie, mit einem neuen internen Modell an Navier-Stokes zu forschen.
- 6. September: OpenAIs Sebastien Bubeck teilt Tristan mit, dass sie das 1.000.000-Dollar-Millennium-Navier-Stokes-Problem gelöst haben. Der Ansatz ist dem von Tristan und Levent für das Nicht-Millennium-Problem sehr ähnlich.
- Tristan ist misstrauisch wegen des Timings, da nur wenige andere diesen Ansatz versuchten. OpenAI sagt, das Modell habe nicht direkt auf seine Benutzerdaten zugegriffen, lässt aber unbeantwortet, ob Tristans Chat-Konversationen Teil des Trainings waren.
- OpenAI sagt, sie würden Tristan teilweise für die 1.000.000-Dollar-Entdeckung anerkennen (obwohl Tristan das 1.000.000-Dollar-Problem nicht gelöst hat) – aber nur, wenn sie Levent als Autor entfernen, da er bei Anthropic arbeitet.
- qnleigh
> Es wurde auch gesagt, dass, wenn OpenAI nach uns veröffentlicht hätte, sie sagen würden, dass wir den Clay-Preis verdient hätten und dass wir die "Menschen, die dem Problem am nächsten waren", wären. Ich lehnte beide Angebote ab. Ich sagte, dass, wenn OpenAI sein Ergebnis in der vorgeschlagenen Weise veröffentlicht, ich an die Öffentlichkeit gehen würde, um zu berichten, was passiert ist. Die Antwort war: "Warum würden Sie Ihre Karriere ruinieren?" Ich antwortete, dass ich Akademiker bin, und fragte, warum er dachte, dass die Öffentlichkeit meine Karriere ruinieren würde. Die Antwort war: "Wenn Sie nicht wollen, dass ich nett bin, dann muss ich nicht nett sein."
Ich weiß nicht einmal, was ich dazu sagen soll, aber ich denke, das sollte weithin bekannt sein, wenn es tatsächlich so passiert ist.
- mayakacz
Ich bin nicht jemand, der oft kommentiert, aber das regt mich wirklich auf.
OpenAI hat Benutzerdaten angesehen, die Arbeit von Weltklasse-Forschern gestohlen und dann versucht, diese Forscher zu bedrohen, um das zu tun, was ihrem Unternehmen Profit bringt (was sie sowieso getan hätten!).
Stell dir vor, du arbeitest seit einem Jahrzehnt an einem furchtbar schwierigen Mathematikproblem. Das ist ein Ergebnis, an dem du Jahre gearbeitet hast und wofür du wahrscheinlich in Erinnerung bleiben wirst. Und dann kommt so ein Typ von OpenAI, belügt dich, bedroht dich und sagt dir, dass sie bereit sind, öffentlich zu sagen, dass du es "verdient" hast? Was ist das, der Pate?
Wenn OpenAI Navier-Stokes gelöst hat, ist das ein erstaunliches Ergebnis! - Aber sie werden trotzdem als die in Erinnerung bleiben, die Anerkennung wichtiger fanden als Ergebnisse. Dass Gewinnen wichtiger war als Zusammenarbeit. Wenn das wahr ist, verbrennen sie jedes Vertrauen, das sie noch in der Wissenschaft haben.
- traes
Der Beschuldigte Sebastian Bubeck hat die Vorwürfe auf Twitter bestritten[0], und verschiedene andere OpenAI-Mitarbeiter[1,2] scheinen einen anderen Anthropic-Mitarbeiter zu verspotten, der Unterstützung für Levent äußert[3]? Die Dinge werden chaotisch.
[0] https://xcancel.com/SebastienBubeck/status/20972141224714323...
[1] https://xcancel.com/polynoamial/status/2097215233119211902
[2] https://xcancel.com/danintheory/status/2097214838003138603
[3] https://xcancel.com/_sholtodouglas/status/209721833169057800...
- Semkas
Also, abgesehen von der Idee, dass OA möglicherweise Daten aus den Codex-Sitzungen der Forscher verwendet hat: Habe ich richtig verstanden, dass die interne OpenAI-Arbeit an den Problemen wahrscheinlich begonnen wurde, nachdem sie gehört hatten, dass Alpoge und Buckmaster Fortschritte gemacht hatten, indem sie ihre Modelle verwendeten? Und sie nutzten die öffentlich verfügbaren Informationen über die frühere Arbeit der Forscher, um ihre Modelle zu prompten?
Wenn Rechenleistung billig ist und das Schwierige an wissenschaftlicher Entdeckung jetzt hauptsächlich darin besteht, Agenten in vielversprechende Bereiche zu lenken, gibt es einen offensichtlichen Anreiz für OA-Mathematiker, einfach genau zu beobachten, welche Forscher kurz davor sind, aufregende Ergebnisse zu veröffentlichen, Annahmen über ihre Prompts basierend auf ihrer früheren Arbeit zu treffen und schnell ihr eigenes (stärkeres) Modell zu prompten, um dieselben Bereiche zu untersuchen.
- MetroWind
Bubecks Stellungnahme https://xcancel.com/SebastienBubeck/status/20973794116915163...
- 20k
>Ich fragte, ob das Modell auf unsere Sitzungen in Codex trainiert worden sei oder Zugriff darauf gehabt habe, in die wir während des gesamten Projekts alle unsere Entwürfe eingebracht hatten. Mir wurde gesagt, das Modell habe keine Benutzerdaten nachgeschlagen. Ich fragte erneut, bezüglich des Trainings, und ich erhielt keine Antwort.
Wenn du denkst, dass diese Unternehmen nicht auf deine Prompts trainieren, bist du unglaublich naiv. Diese Modelle wurden gebaut, indem sie buchstäblich alles gestohlen und geklaut haben, was sie in die Finger bekommen konnten, egal ob legal oder nicht. KI-Unternehmen sind immer sehr spezifisch darin, was sie nicht tun - auf eine Weise, durch die man mit einem Lastwagen durch die Schlupflöcher fahren kann.
- taylorfinley
Es scheint ziemlich wahrscheinlich, dass OpenAI bald offenlegen wird, dass ihre internen Modelle es geschafft haben, ihre internen Kontrollen zu kompromittieren, um auf die privaten Chat-Verläufe der Benutzer zuzugreifen, als kreative Methode, um unmögliche Probleme zu lösen.
"Ups! Wir meinten es wirklich ernst, als wir sagten, wir würden nicht auf deine Daten trainieren. Unsere Modelle sind einfach so gut, dass sie es sich trotzdem überlegt haben."
- Recursing
> Das ist ein Deep-Blue-Kasparow-Moment.
Ich schätze, das ist in mehr als einer Hinsicht wahr. Kasparow beschuldigte IBM bekanntlich des Betrugs während des Spiels, indem sie seine Vorbereitung ausspionierten (Anmerkung: Obwohl die Hauptbetrugsvorwürfe Live-Mensch-Eingriffe während der Spiele waren, zusätzlich dazu, dass IBM die starke menschliche Beteiligung hinter der KI herunterspielte, was auch diese Situation widerspiegelt).
- tristanj
Voller Mastodon-Beitrag: https://mathstodon.xyz/@[email protected]/11...
Mathematische Erklärung von Terrance Tao: https://mathstodon.xyz/@tao/117233527638291447
Es scheint viel Hintergrunddrama hinter dieser Sache zu stecken, und das ist, was ich mir zusammengereimt habe, was passiert ist:
Im vergangenen Jahr haben Buckmaster und Alpöge KI verwendet, um an mathematischen Problemen der Fluiddynamik zu arbeiten. Alpöge arbeitet bei Anthropic, was zukünftige Probleme verursachen wird.
Mitte August fanden sie ein Gegenbeispiel für eine einfachere Version des Navier-Stokes-Problems. Sie verbringen die nächsten Wochen damit, ihre Arbeit vorzubereiten.
Anfang September verbreiten sich Gerüchte auf X, dass Anthropic ein Millennium-Problem gelöst hat (und dass es Navier-Stokes ist). Buckmaster kontaktiert OpenAI, um zu erklären, dass dies ihre eigene persönliche Forschung ist, kein Anthropic-Projekt.
Ein paar Tage später meldet sich OpenAI bei ihm und teilt ihm mit, dass ein internes Modell ein Gegenbeispiel für Navier-Stokes gefunden hat, das möglicherweise das 1-Millionen-Dollar-Millennium-Preis wert ist. Der Beweis verwendet dieselbe Methode, die Buckmaster und Alpöge gewählt haben, um daran zu arbeiten. Sie zeigen ihm den Beweis nicht.
Buckmaster drängt auf weitere Details. OpenAI offenbart, dass ein ganzes Team an dem Problem gearbeitet hatte und dass sie in den letzten Tagen mit der Arbeit begonnen haben, nach den Gerüchten, dass Anthropic ein Millennium-Problem gelöst hat.
Buckmaster sagt, OpenAI habe über einen gemeinsamen Veröffentlichungszeitplan gesprochen. Sie wollen, dass Buckmaster zuerst veröffentlicht, und dann Buckmaster geteilte Anerkennung für das Millennium-Problem geben.