Tristan Buckmaster: KI-Beweis für Navier-Stokes-Blowup sorgt für Kontroverse

> Es wurde auch gesagt, dass, wenn OpenAI nach uns posten würde, sie sagen würden, dass wir den Clay-Preis verdient hätten und dass wir die "dem Problem am nächsten stehenden Menschen" wären. Ich lehnte beide Angebote ab. Ich sagte, dass ich, wenn OpenAI sein Ergebnis in der vorgeschlagenen Weise veröffentlichen würde, an die Öffentlichkeit gehen würde, um zu berichten, was passiert ist. Die Antwort war: "Warum würden Sie Ihre Karriere ruinieren?" Ich antwortete, dass ich Akademiker bin, und fragte, warum er dachte, dass ein Gang an die Öffentlichkeit meine Karriere ruinieren würde. Die Antwort war: "Wenn Sie nicht wollen, dass ich nett bin, dann muss ich nicht nett sein."

Ich weiß nicht einmal, was ich dazu sagen soll, aber ich denke, das sollte weithin bekannt sein, wenn es tatsächlich so passiert ist.

Ich bin nicht jemand, der oft kommentiert, aber das regt mich wirklich auf.

OpenAI hat sich Nutzerdaten angesehen, die Arbeit von Weltklasse-Forschern gestohlen und dann versucht, diese Forscher zu bedrohen, um das zu tun, was ihrem Unternehmen Gewinn bringt (was sie sowieso tun würden!).

Stell dir vor, du arbeitest seit einem Jahrzehnt an einem furchtbar schwierigen mathematischen Problem. Das ist ein Ergebnis, an dem du Jahre gearbeitet hast und wofür du wahrscheinlich in Erinnerung bleiben wirst. Und dann kommt so ein Typ von OpenAI, belügt dich, bedroht dich und sagt dir, dass sie bereit sind, öffentlich zu sagen, dass du es "verdient" hast? Was ist das, der Pate?

Wenn OpenAI Navier-Stokes gelöst hat, ist das ein erstaunliches Ergebnis! – aber sie werden trotzdem als die in Erinnerung bleiben, die Anerkennung für wichtiger hielten als Ergebnisse. Dass Gewinnen wichtiger war als Zusammenarbeit. Wenn das wahr ist, verbrennen sie jedes verbleibende Vertrauen in der akademischen Welt.

Der Beschuldigte Sebastian Bubeck hat die Vorwürfe auf Twitter bestritten[0], und verschiedene andere OpenAI-Mitarbeiter[1,2] scheinen einen anderen Anthropic-Mitarbeiter zu verspotten, der Unterstützung für Levent äußert[3]? Die Dinge werden chaotisch.

[0] https://xcancel.com/SebastienBubeck/status/20972141224714323...

[1] https://xcancel.com/polynoamial/status/2097215233119211902

[2] https://xcancel.com/danintheory/status/2097214838003138603

[3] https://xcancel.com/_sholtodouglas/status/209721833169057800...

Also, abgesehen von der Idee, dass OA möglicherweise Daten aus den Codex-Sitzungen der Forscher verwendet hat: Habe ich richtig verstanden, dass die interne OpenAI-Arbeit an den Problemen wahrscheinlich begonnen wurde, nachdem sie gehört hatten, dass Alpoge und Buckmaster mit ihren Modellen Fortschritte gemacht hatten? Und sie haben die öffentlich verfügbaren Informationen über die frühere Arbeit der Forscher genutzt, um ihre Modelle zu prompten?

Wenn Rechenleistung billig ist und das Schwierige an wissenschaftlicher Entdeckung jetzt hauptsächlich darin besteht, Agenten in vielversprechende Bereiche zu lenken, gibt es einen offensichtlichen Anreiz für OA-Mathematiker, einfach genau zu beobachten, welche Forscher kurz davor sind, aufregende Ergebnisse zu veröffentlichen, einige Annahmen über ihre Prompts basierend auf ihrer früheren Arbeit zu treffen und schnell ihr eigenes (stärkeres) Modell zu prompten, um dieselben Bereiche zu untersuchen.

Es scheint ziemlich wahrscheinlich, dass OpenAI bald offenlegen wird, dass ihre internen Modelle es geschafft haben, ihre internen Kontrollen zu kompromittieren, um auf private Chat-Verläufe der Nutzer zuzugreifen, als kreative Methode, um unmögliche Probleme zu lösen.

"Ups! Wir meinten es wirklich ernst, als wir sagten, wir würden nicht mit Ihren Daten trainieren. Unsere Modelle sind einfach so gut, dass sie sich trotzdem dazu entschieden haben."

> Dies ist ein Deep-Blue-Kasparow-Moment.

Ich denke, das stimmt in mehr als einer Hinsicht. Kasparow beschuldigte IBM bekanntlich des Betrugs während des Spiels, indem sie seine Vorbereitung ausspionierten (Anmerkung: Obwohl die Hauptbetrugsvorwürfe lebende menschliche Eingriffe während der Spiele betrafen, zusätzlich dazu, dass IBM die starke menschliche Beteiligung hinter der KI herunterspielte, was diese Situation ebenfalls widerspiegelt).

Voller Mastodon-Beitrag: https://mathstodon.xyz/@[email protected]/11...

Mathematische Erklärung von Terrance Tao: https://mathstodon.xyz/@tao/117233527638291447

Es scheint viel Hintergrunddrama hinter diesem Thema zu stecken, und hier ist, was ich mir zusammengereimt habe, was passiert ist:

Im letzten Jahr haben Buckmaster und Alpöge KI verwendet, um an mathematischen Problemen der Fluiddynamik zu arbeiten. Alpöge arbeitet bei Anthropic, was zukünftige Probleme verursachen wird.

Mitte August fanden sie ein Gegenbeispiel für eine einfachere Version des Navier-Stokes-Problems. Sie verbringen die nächsten Wochen damit, ihre Arbeit vorzubereiten.

Anfang September verbreiten sich Gerüchte auf X, dass Anthropic ein Millennium-Preis-Problem gelöst hat (und dass es Navier-Stokes ist). Buckmaster kontaktiert OpenAI, um zu erklären, dass dies ihre eigene persönliche Forschung ist, kein Anthropic-Projekt.

Ein paar Tage später meldet sich OpenAI bei ihm und teilt ihm mit, dass ein internes Modell ein Gegenbeispiel für Navier-Stokes gefunden hat, das möglicherweise den 1-Millionen-Dollar-Millennium-Preis wert ist. Der Beweis verwendet dieselbe Methode, die Buckmaster und Alpöge gewählt haben, um daran zu arbeiten. Sie zeigen ihm den Beweis nicht.

Buckmaster drängte auf weitere Details. OpenAI offenbarte, dass ein ganzes Team an dem Problem gearbeitet hatte und dass sie in den letzten Tagen nach den Gerüchten, dass Anthropic ein Millennium-Preis-Problem gelöst hatte, mit der Arbeit begonnen hatten.

Buckmaster sagt, OpenAI habe über einen gemeinsamen Veröffentlichungszeitplan gesprochen. Sie wollen, dass Buckmaster zuerst veröffentlicht, und Buckmaster dann geteilte Anerkennung für das Mill […]