Mathematiker werfen OpenAI vor, mit 700 Dateien nur Macht zu demonstrieren
AHM Statement on OpenAI's October 6 Release of Mathematical Documents
Die Association for Human Mathematics kritisiert OpenAIs Veröffentlichung von über 700 Manuskripten mit angeblichen Lösungen zu großen Mathematikproblemen. Die Mathematiker betonen, niemand habe diese Arbeit verlangt, und OpenAI ignoriere die zentrale Prämisse der Advisory Group on Mathematics and Artificial Intelligence, die davon abgeraten hatte, fortgeschrittene mathematische Probleme an internen Modellen zu testen. Die AHM fordert Mathematiker auf, die Zusammenarbeit mit OpenAI zu beenden und sich auf eine Wissenschaft zu besinnen, die menschliches Verständnis in den Mittelpunkt stellt.
Über 700 Dateien auf einmal zu veröffentlichen ist keine Demonstration von Wissenschaft, sondern eine Demonstration von Macht.
- skwirl
Ich habe wirklich große Mühe zu erkennen, wie dieser Brief überhaupt überzeugend wirken könnte. Tatsächlich macht dieser Brief deutlich, dass die Leute dahinter versuchen, ihre zuvor fest verankerte Macht, ihr Prestige und ihre Kontrolle über ein Feld menschlichen Wissens zu bewahren. Und sie gehen dabei auf eine vergebliche und entwürdigende Weise vor.
- spongebobism
Zwischen dem Spott verbergen sich zwei starke Punkte: dass die AI Math Advisory Group, mit der OpenAI laut Ankündigung erst vor zweieinhalb Wochen zusammenarbeitet, gegen die Verwendung interner Modelle zur Lösung offener Probleme ist (gemäß ihren allgemeinen Richtlinien[0]); und dass diese Art, Ergebnisse zu veröffentlichen, bevor es eine freundliche Formulierung gibt, das menschliche Verständnis nicht in den Mittelpunkt stellt.
Meiner Meinung nach verstößt die Art und Weise, wie OpenAI veröffentlicht, auch gegen andere Teile der allgemeinen Richtlinien. Außerdem bezweifle ich, dass sie Punkt 2B3 befolgen werden:
> Für jedes veröffentlichte Ergebnis sollte das AI-Labor den Namen des Modells, die verwendeten Prompts, eine (zusammengefasste) Gedankenkette, die benötigte Zeit und die geschätzten Rechenkosten öffentlich machen. Die Veröffentlichung zusätzlichen Materials, das den wissenschaftlichen Prozess beleuchtet, der zu den Ergebnissen geführt hat, wie etwa die ursprünglichen LLM-Ausgaben vor ihrer Bereinigung (wie in (1) oben empfohlen), wird nachdrücklich befürwortet.
- crypto420
Ich kann ihren Standpunkt irgendwie nachvollziehen.
Jahrtausendelang hatte die Mathematik diese Aura, an der Spitze des menschlichen Denkens zu stehen, und war eines der Dinge, die uns von anderen Arten unterschieden. Leute wie Euler, Gauss, Euclid, Hilbert, Erdos hatten diese Aura, dass sie auf der edelsten aller Bestrebungen waren – zu versuchen, Probleme zu lösen, die keinen unmittelbaren praktischen Nutzen hatten und größtenteils konzentriertes Denken über längere Zeiträume mit gelegentlichen kreativen Geistesblitzen erforderten.
Dann kommt die KI, ein Massenaussterben für das gesamte Feld. Es stellt sich heraus, dass LLMs länger ohne Unterbrechung denken können, ein besseres Erinnerungsvermögen und Arbeitsgedächtnis haben. Was wir jetzt sehen, ist ein 5000 Jahre altes Institutionengefüge, das einer existenziellen Bedrohung gegenübersteht, weil es nicht länger erfordert, dass Menschen die einzige Arbeitsquelle sind.
Die nächste Analogie, die mir einfällt, ist die Verdrängung der Pferdekutschenindustrie durch das Automobil im frühen 20. Jahrhundert. Pferde konnten nicht protestieren und verloren schnell ihren Job, aber die Besitzer von Pferdekutschen und diese Industrie taten es sehr wohl.
https://ghostsofdc.org/2018/07/16/horse-dealers-claim-automo...
- fidotron
"Mathematiker haben nicht darum gebeten, dass diese Arbeit gemacht wird."
Ein bisschen viel Gatekeeping, oder?
"Mathematiker haben eine besondere Vorstellung von Fortschritt, die von der Geschichte und fachspezifischen Überlegungen geprägt ist."
Das kann ernsthaft niemand geschrieben haben, der mathematisch gebildet ist, es ist einfach zu peinlich.
- woopwoop
Ich bin ein ehemaliger Mathematiker, der jetzt einen normalen Job hat (nicht mit OpenAI verbunden). Nur für mich gesprochen, finde ich diese Aussage zutiefst peinlich und im Widerspruch zum Geist der offenen Forschung, für den die Gemeinschaft der Mathematik (fast) immer ein Standardträger war.