Die Maschine hat ihren Turm zuerst zerstört: Warum Mathematiker weinen

Ich kann mich irgendwie hineinversetzen, aber ich habe das Gefühl, ich trauere um etwas anderes: den Verlust des Verlangens, in Technik, Mathematik usw. nach Wahrheit zu suchen.

Nichts wird mehr validiert oder getestet. Es geht nur noch um die Form oder Glaubwürdigkeit oder sogar darum, wie laut es ist.

Sie haben über 100 Paper veröffentlicht, die niemand gelesen hat. Ich bin sicher, Mathematiker lesen sie jetzt, aber selbst dieses Forum hat entschieden, dass diese Probleme gelöst sind, ohne sie zu lesen oder zu validieren.

Es ist, als hätten alle vergessen: „Glaube nicht alles, was du im Internet liest.“ Und es ergibt eine sehr langweilige Diskussion, wenn alle nur unvalidierte Behauptungen von sich geben und sie mit starken Überzeugungen untermauern, die auf ähnlich unvalidierten Behauptungen beruhen. Es ist öde, ohne Substanz und einfach nur reines Rauschen.

> „Google Translate ist erstaunlich, aber es hat uns im Wesentlichen nichts über Linguistik gelehrt“, sagte Strogatz. „Wir verstehen nicht, warum es funktioniert. Es funktioniert einfach. Das ist die Twilight Zone. Es ist Wissen ohne Verständnis.“

Das ist nicht wahr, und es ist der Kern einer enormen Debatte, die wir jetzt in vielen, vielen Bereichen führen.

Die klassische Chomskysche Syntax (die Sätze als Parse-Bäume modelliert) war enorm, erstaunlich prädiktiv für die reiche Struktur in der realen menschlichen Sprache. Aber wir vergessen schnell, dass wir Konzepte wie „Wörter“ und „Nominalphrasen“ genau erfunden haben, um menschliche Sprache zu analysieren und vorherzusagen. Was LLMs und moderne MT definitiv zeigen, ist, dass es eine andere, völlig getrennte Art gibt, diese Phänomene zu beschreiben, die sowohl weit weniger deskriptiv als auch weit prädiktiver ist.

Dass diese sich offenbar gegenseitig ausschließen, ist bedauerlich, aber es ist NICHT der Fall, dass wir „nicht verstehen, warum es funktioniert“. Wir verstehen absolut, warum es funktioniert; wenn wir es nicht verstehen würden, könnten wir diese Systeme nicht verbessern. Was uns fehlt, ist eine saubere, deskriptive Theorie, die dies auf etwas reduziert, das formal spezifizierbar und analysierbar ist. Aber das sind verschiedene Dinge, und hier liegt die Wurzel der Kluft zwischen vielen Gemeinschaften, die in und um diese Bereiche arbeiten (Linguisten vs. Computerlinguisten; Mathematiker vs. computergestützte Mathematiker; Mech-Interp-Leute vs. Empiriker).

Dieser Beitrag kreist, ohne es zu benennen, um das Konzept des „deontischen Scorekeepings“, das für die Arbeit von Robert Brandom zur Semantik zentral ist. Die Idee, dass unsere Fähigkeit, konzeptuelle Systeme zu schaffen und aufrechtzuerhalten, vom Geben und Nehmen von Gründen in einem sozialen Umfeld abhängt. Brandom beschäftigt mich in letzter Zeit, weil Elemente seiner Theorie sowohl erklären, warum LLMs im Prinzip funktionieren sollten, als auch, wo sie zwangsläufig radikal defizitär sein müssen. Ein LLM kodiert die normativen Regelmäßigkeiten unserer sprachlichen/konzeptuellen Spiele in seine Gewichte, aber es kann kein echter Teilnehmer an unseren Spielen sein, weil es unfähig ist, dauerhafte Verpflichtungen einzugehen oder seine Dispositionen im Laufe der Zeit zu ändern.

Lesenswert: Robert Brandom, „Making It Explicit: Reasoning, Representing, and Discursive Commitment“

Ich denke, Thompson hat kein Verständnis für Unterfangen wie reine Mathematik oder die theoretischen Wissenschaften. Mit Einsteins Worten: „Ich will wissen, wie Gott diese Welt erschaffen hat. Ich bin nicht an diesem oder jenem Phänomen interessiert, am Spektrum dieses oder jenes Elements. Ich will seine Gedanken wissen; der Rest ist nur Detail.“

Ich denke, Mathematiker beklagen nicht ihre verlorenen versunkenen Kosten. Sie sind sich jetzt bewusst, dass sie vielleicht nie wieder die Freude haben werden, als Erste den Rand der Decke der Unwissenheit hochzuziehen und die rohe Wahrheit darunter _zum ersten Mal_ zu sehen. Ihre Entdeckungsreisen, die dem Leben Sinn geben, werden vielleicht nie wieder aus dem Trockendock auslaufen.

Ich denke immer noch, dass Mathematiker so wichtig wie eh und je sein werden. Die LLMs finden nur, was technisch möglich war, angesichts unserer aktuellen Wissensbreite, nachdem sie Probleme per Brute-Force gelöst haben. Irgendwann wird es keine Dinge mehr geben, die es mit seinem Training tun kann, und der einzige Weg, es zu mehr zu bringen, wird sein, es mit neuem, von Menschen gefundenem Wissen zu trainieren.

Dieses neue Wissen zu finden, mag exponentiell schwieriger sein, aber es wird viel wertvoller sein.

Wissen ohne Verständnis wäre, einfach „42“ zu bekommen und keine Rückfragen stellen zu können.

Aber ich denke nicht, dass wir gerade an diesem Punkt sind. Ich glaube, die Ergebnisse, Beweise und Paper können überprüft und verstanden werden, genau wie wenn ein menschlicher Peer ein weiteres Ergebnis veröffentlicht hätte.

Ich denke auch, dass die Geschwindigkeit, mit der jetzt Ergebnisse generiert werden können, von unserer kollektiven Geschwindigkeit, sie zu verstehen, mit den uns gewohnten Methoden nicht mitgehalten werden kann.

Wenn wir in die nächste Phase eintreten, in der KI unter hauptsächlicher Verwendung von Referenzen auf andere KI-Ergebnisse veröffentlicht, wird sich dies exponentiell verstärken, bis es für einen Menschen Jahrzehnte dauern würde, ein einzelnes Ergebnis von Hand Ende-zu-Ende zu verifizieren.

Ich stimme zu, dass das Übersetzen eines Satzes einem nicht die Sprache beibringt, und ich glaube auch, dass Übersetzer ein wesentliches Werkzeug sind, das beim Erlernen einer neuen Sprache extrem hilfreich ist.

Also, anstatt das Handtuch zu werfen, könnten wir nicht Wege entwickeln und anpassen, um unser Verständnis und unsere Verifizierungsprozesse zu verbessern und zu unterstützen?

Als Softwareentwickler fällt es mir schwer, Mitleid mit diesen Mathematikern zu empfinden. Softwareentwickler werden entlassen wegen der Fortschritte, die KI macht. Mathematikforscher sind an Universitäten angestellt, und Universitäten entlassen jetzt keine Mathematiker, nur weil OpenAI einige ihrer Rätsel gelöst hat. Mathematiker können immer noch ihre Familien ernähren, durch KI verdrängte Softwareentwickler nicht. Dennoch sehe ich weit mehr dieser Blogs über die Not der Mathematiker, nicht genug über die Not der Softwareentwickler.

Ich denke, die Leute unterschätzen massiv die Fähigkeit des Menschen, menschliche Leistung zu respektieren, obwohl sie Maschinen unterlegen ist. Denk an Schachspieler vs. Stockfish, Marathonläufer vs. ein Auto usw.

Ich denke, der Kern ist viel prosaischer, wie im Artikel vergraben.

> Ich will auch nicht meinen Job an ein Knäuel von GPUs verlieren.

Um es mit einem GPTismus zu sagen: Es geht nicht um das Wissen oder den Status, es geht mehr darum, den Job und das Geld zu behalten.

Und das kann nur durch Politik beantwortet werden, und meiner Meinung nach durch UBI. Also, stimmt ab, wenn ihr könnt, Leute, protestiert ansonsten, diskutiert, debattiert, lobbyiert mit euren Freunden, Familien, Bekannten.

Ich denke, ein unterschätzter Teil der Mathematik war, saubere und elegante Arbeit beizutragen, gerade damit andere sie als Grundlage für weitere Arbeit und neue Erkenntnisse nutzen konnten. Dieser Datenauswurf von Open AI scheint das Gegenteil zu sein. Riesig und chaotisch, unverständlich und nur ernst genommen wegen Lean.

Es gibt diese Annahme, dass KI zu schnellerem Fortschritt in der Mathematik beitragen wird, aber angesichts des Müllhaufens von Beweisen, die wir als robust hinnehmen müssen, frage ich mich, ob das Gegenteil der Fall ist.

Meine Bedenken könnten nur zerstreut werden, wenn sich herausstellt, dass KI grundlegend neue Erkenntnisse beitragen und neue Probleme stellen kann. Das führt uns in einen Bereich, in dem der Fortschritt der KI, gelinde gesagt, langsam war.