Fields-Medaillen-Träger warnen vor schwerer Fehlausrichtung der KI in der Mathematik

Mir scheint es nicht so, als hätte die KI die Fähigkeit von Mathematikern zerstört, Verständnis zu entwickeln und es miteinander zu teilen, sondern vielmehr den Maßstab (das Lösen offener Probleme) zerstört, der traditionell verwendet wurde, um zu messen, wie viel sie zu diesem Verständnis beigetragen haben.

Ich sehe durchaus, dass dies ein Problem bei der Zuschreibung von Anerkennung ist, aber ich denke, die Katze ist bereits aus dem Sack, was die Fähigkeiten dieser Modelle angeht. Selbst ohne KI-Labore, die Millionen von Dollar ausgeben, um Millennium-Preis-Probleme zu lösen, gibt es genügend andere Leute, die sie nutzen werden, um die niedrig hängenden Früchte zu pflücken. Ich glaube nicht, dass eine soziale Lösung die Dinge wieder so machen wird, wie sie waren, wo man seinen Fortschritt bei einem berühmten offenen Problem teilen konnte, ohne das Risiko einzugehen, dass jemand einen innerhalb von ein paar Tagen "scoopt".

Ich denke, die wahrscheinlichsten Ergebnisse sind entweder, dass Mathematik geheimniskrämerischer wird, oder dass es einen deliberativeren Ansatz bei der Zuschreibung von Anerkennung gibt als den, wer als "Erster" ein Problem gelöst hat. Im ersteren Fall könnte dies den Fortschritt verlangsamen, und im letzteren Fall könnte dies bedeuten, dass Anerkennung subjektiver wird und eine ständige Quelle von Kontroversen ist.

Taos Kritik an KI im Bereich der Mathematik erinnert mich an das, was der französische Kunstkritiker Charles Baudelaire im 19. Jahrhundert über die Fotografie sagte [0].

Baudelaire argumentierte, die Fotografie sei ein Zufluchtsort für gescheiterte Maler geworden, für die Art von Schundmalern, die keine ordentliche Ausbildung abschließen konnten. Die Fotografie als mechanische Wiedergabe der Welt könne nur festhalten, was bereits existierte; sie könne die Realität nicht so transformieren wie ein Gemälde.

Er kritisierte auch die öffentliche Manie, sich "hineinzustürzen", und beklagte, dass dieser technische "Fortschritt" die Künste schwäche.

Seht ihr auch Parallelen?

[0] https://fr.wikisource.org/wiki/Curiosit%C3%A9s_esth%C3%A9tiq...

Das klingt für mich sehr nach Leuten in den 90ern, die sich beschwerten, dass Computer das Schach zerstören. Dreißig Jahre später ist Schach beliebter als je zuvor, und Schachspieler sind besser als je zuvor. Es würde mich nicht überraschen, wenn es jetzt mehr Schachbücher gibt als je zuvor. Außerdem stellt sich heraus, dass viele Schachbücher, die vor Computern geschrieben wurden, in vielen Dingen einfach falsch lagen. Es stellt sich heraus, dass ein Orakel für die "richtige" Antwort im Schach, selbst ohne Erklärung, bei richtiger Anwendung es Menschen ermöglicht, breitere, genauere Einsichten zu entwickeln.

Das Argument hier klingt ähnlich. Die Angst, so wie ich diese Aussage verstehe, ist, dass Menschen, indem ihnen die richtige Antwort in Form eines 100-seitigen Lean-Beweises gegeben wird, die Chance geraubt wird, Einsichten über die Struktur der Mathematik selbst zu gewinnen. Ich sehe keinen Grund, warum Menschen nicht weiterhin Einsichten entwickeln können, während sie versuchen, den 100-seitigen Lean-Beweis in etwas Handlicheres zu verdauen; aber mit mehr Gewissheit und weniger Fehlstarts.

Ich bin nicht überzeugt, dass dies ein Alignment- oder Technologieproblem ist.

Wenn mein Chef eine App für den Kunden vibe-coded und mich dann damit beauftragt, sie zum Laufen zu bringen, wäre sie unmöglich zu warten. Wenn er mir genug KI-Tokens gäbe, um das MVP selbst und nach meinem Design zu vibe-coden, hätte ich nichts dagegen.

Ich denke, dasselbe Problem liegt hier in der Mathematik vor. OpenAI besitzt das Modell und kann es nach Belieben steuern. Sie haben beschlossen, viel Geld auszugeben, um ein schnelles Ergebnis zu erzielen, anstatt mathematische Infrastruktur für die nächste Generation von Problemen zu entwickeln. Die Manager haben das Sagen, nicht die Experten.

> Wir erleben eine allgemeine Bedrohung der intellektuellen Arbeit

Das ist der Kern der Sache und geht weit über Mathematik oder Informatik hinaus. Um eine Gruppe von Menschen dazu zu bringen, irgendetwas zu tun, muss man sie motivieren. Kleos und Timē; Ruhm und so. Diese KI-Unternehmen drohen, dies allen außer sich selbst wegzunehmen, und dieser jüngste Millennium-Preis ist das perfekte Beispiel.

Dieses Problem als Mensch zu lösen, hätte zu enormem Kleos geführt; mein Name wäre in den Annalen der Mathematik verzeichnet, Vortragsreisen voller Lob stünden mir für den Rest meiner Tage zur Verfügung. Dieser eine Sieg hätte mir Anerkennung durch die gesamte Geschichte eingebracht. Das Größte, worauf ein Sterblicher hoffen kann. Weggerissen.

Es hätte mir auch großes Timē eingebracht. Das Preisgeld, die Professuren, die Buchverträge. Weg.

Wenn alle Hoffnung auf "Ruhm und so" im intellektuellen Bereich nun von den KI-Unternehmen übernommen wird, werden sie jede menschliche Motivation nehmen, diese Bestrebungen zu verfolgen.

Vielleicht kommt der Ruhm daher, diese garstigen Bestien zu erschlagen.

> Probleme zu lösen ist nur ein Werkzeug und Stellvertreter für das primäre Ziel des konzeptuellen Verständnisses und der Einsicht.

Dies ist die Wirkung von KI auf die meisten intellektuellen Disziplinen, und es ist eine echte Sorge.

Um ehrlich zu sein, habe ich hier nicht so viel Empörung herausgelesen: https://news.ycombinator.com/item?id=49662116

Es scheint, als sei ein Großteil des Problems hier, dass diese Probleme an sich nicht interessant sind, aber sie führen zu interessanten Wegen. Es verfehlt den Zweck, wenn man sie löst, ohne echtes Verständnis zu erlangen.

Es ist, als würde man sagen, man habe "Pancake-Flipping"-Probleme mit einem Waffeleisen gelöst, oder "Travelling-Salesman"-Probleme mit einem Zoom-Meeting.

Dieser Brief beklagt, dass menschliches Verständnis entscheidend für den Fortschritt der Mathematik war, und KI-Unternehmen sich nicht darum kümmern. Aber das Versprechen (und der Schrecken) der KI-Mathematik ist, dass, wenn sie erfolgreich ist, menschliches Verständnis irrelevant wird. Das ist das Ziel. Also wird die Botschaft dieses Briefes auf taube Ohren stoßen.

Man bedenke, dass Mitarbeiter von KI-Unternehmen öffentlich erklären, dass sie glauben, ein Risiko von >10 % für die Auslöschung der Menschheit einzugehen. Sie riskieren wissentlich das Leben jedes Mannes, jeder Frau und jedes Kindes, um die Arbeit fortzusetzen. Das Leben ihrer eigenen Söhne und Töchter. Eine Person, die das bereits rationalisiert, wird keine Träne für die Karrieren von Mathematikern vergießen. Nur ein Insekt auf der Windschutzscheibe.

Ich verstehe diese Haltung und woher sie kommt, aber ich kann nicht umhin zu denken, dass dies sehr analog zu den Argumenten von Ingenieuren gegen KI-unterstütztes und Vibe-Coding klingt, insbesondere im Hinblick auf kognitive Schulden. Dennoch pflügt die Softwareindustrie voran, schiebt Berichten zufolge Berge von ungeprüftem Code in die Prod, und die Welt ist nicht untergegangen.

Natürlich fühlt sich niemand wirklich wohl dabei, also ist dies auch eine treibende Kraft für die Industrie, sich anzupassen und neue Techniken zu finden, um Komplexität und Vertrauen zu managen. Ich denke, dasselbe wird in der Mathematik passieren.

Aber es ist auch möglich, dass wir am Ende drei Formen der Mathematik haben werden: die, die wir verstehen, die, die wir nicht verstehen, und die, die wir nicht verstehen, aber von der wir beweisen können, dass sie funktioniert. So ähnlich wie Magie – mit all den positiven und negativen Konnotationen des Wortes.

Es ist ziemlich offensichtlich, dass diese Modelle bald unsere kognitiven Fähigkeiten übertreffen werden. Ist es richtig, sie zurückzuhalten, nur weil wir nicht mithalten können? Viele dieser Entdeckungen werden so weit über uns hinausgehen, dass wir nichts damit anfangen können, aber das bedeutet auch, dass sie uns nicht schaden können. Andererseits könnte es viele Entdeckungen geben, die wir in praktisch nützliche Anwendungen ummünzen können, auch wenn wir sie nicht verstehen.

Genau wie LLMs.