Terence Tao warnt: KI erntet Mathematik aus, bevor sie verstanden ist

Eine sehr ausgewogene Perspektive, und die von ihm geäußerten Bedenken sind vernünftig. Er erkennt an, dass KI die Mathematik verändern wird, aber einfach Beweise in die mathematische Gemeinschaft zu werfen und zu erwarten, dass andere die Drecksarbeit des Verifizierens, Verfeinerns und Erweiterns übernehmen, ist kaum eine produktive Art, das Feld voranzubringen.

Es scheint mehr Interesse daran zu geben, irgendeinen willkürlichen Benchmark zu erreichen (wir haben X ungelöste Probleme bewiesen), als wirklich zur Mathematik beizutragen. Aber was ist anderes zu erwarten? Es ist ein manischer Wettlauf mit zu viel Geld geworden. Es wird zu viel Aufwand investiert, um zu beweisen, dass die Exponentialkurve noch hält.

Die Autoren des Beweises werden eingeladen, viele Vorträge zu halten und sich mit anderen Experten auf dem Gebiet zu treffen. Workshops werden organisiert, um den Beweis sowie andere aktuelle Entwicklungen zu diskutieren.

Probleme werden autonom von KI-Promptern gelöst, die kein Interesse am breiteren Feld selbst haben, sobald ihr ursprüngliches Ziel "gelöst" ist, und die die KI-Ausgabe nicht gut genug verstehen, um Fragen zum Ergebnis zu beantworten

Der Wert hier scheint in den Erkenntnissen zu liegen, die der Autor des Beweises gewonnen hat, und in den Wegen, die er gegangen ist, und vielleicht noch wichtiger, die er nicht gegangen ist.

Nur den menschlichen Prompter zu einem Vortrag über das Paper einzuladen, ist wie nur den Abteilungsleiter einzuladen, den Manager des eigentlichen Autors.

Der wertvolle Teil, dessen Fehlen Tao spürt, ist die Erkenntnis, und die bekommt man nur, wenn man mit dem Schwarm von Agenten spricht, die den ursprünglichen Beweis mit all ihrem Kontext entwickelt haben.

Für mich fühlt es sich also an, als bräuchten wir nicht Mathematik 2.0, sondern Autorschaft 2.0. Ich möchte den Kontext "treffen", der diese Beweise generiert hat. Ich meine, zum Glück wurden diese nicht von gesichtslosen Systemen wie einem SAT-Solver generiert, man kann tatsächlich mit ihm sprechen, aber ich bin mir nicht sicher, ob wir über unseren Stolz hinausgehen und den wahren Autoren dieser Beweise diese Anerkennung gewähren können.

Dasselbe könnte man über Software sagen. Anstatt aufzugeben, neuartige Projekte zu erstellen, und stattdessen einfach die Ideen anderer zu nehmen und sie nach Rust zu portieren, könnten wir KI nutzen, um Software und Computer weiter voranzutreiben.

Ich bin mir nicht sicher, wie das funktionieren wird, aber ich bin überzeugt, dass das aktuelle Paradigma, einfach Agenten in Codebasen zu schieben, aus kaum einem anderen Grund als dass man es kann, das Erstellen von Software unglaublich langweilig machen und kreative Menschen aus dem Feld vertreiben und den Fortschritt stagnieren lassen wird.

Meine Vorhersage ist, dass Software langweilig wird und der Bau von Hardware-Projekten die neue Grenze für kreative Ingenieure sein wird, die das Computing weiter vorantreiben wollen. Was wahrscheinlich eine gute Sache ist.

Anstatt Probleme zu lösen, werden die Leute Lösungen lösen.

Die eigentliche Frage ist, wie man ein glaubwürdiges 3-5-Jahres-Forschungsprogramm aufstellt, das wahrscheinlich nicht überholt wird oder über Nacht sinnlos wird.

3-5 Jahre ist die Laufzeit eines Grants, und Grants müssen Forschungsfortschritte erzielen, sonst bekommt man den nächsten Grant nicht.

Warum haben wir überhaupt Mathematik betrieben? Wir sollten froh sein, dass mathematische Probleme gelöst wurden, da sie vermutlich Blocker für andere Probleme in der Wissenschaft und Ähnlichem waren. Aber es fühlt sich an, als ginge es in der Mathematik wirklich mehr um die Suche nach Erleuchtung, wie eine Art mentales Yoga oder so. Wenn dem so ist, können wir KI-Beweise einfach ignorieren und weitermachen, vielleicht?

>das bloße Wissen, dass eine Lösung existiert, "kontaminiert" Bemühungen von Menschen und KI, alternative Wege zum Problem zu finden, die zusätzliche Erkenntnisse offenbaren

Das drückt wirklich das Sodbrennen aus, das man in allen Bereichen sieht, nicht nur im Karrierismus. Ich habe sicher Freunde in Decomp- und Fan-Übersetzungsräumen, die durch die aktuelle Welle von Bemühungen dort demotiviert wurden.

Der Drang, "Erster" zu sein, wurde schon immer übermäßig gefeiert, aber es wäre schön zu glauben, dass es einen Weg gibt, über dieses Denken hinauszukommen.

Er hat recht, ich denke, das wäre eine gute Richtung für Sektoren und Karrieren, die Gefahr laufen, überflüssig zu werden.

Ich liebe kluge Leute wie ihn; selbst wenn eine Bedrohung besteht, anstatt nur in Verleugnung zu verharren oder aus Wut zu boykottieren, finden sie einen neuen Weg für ihre Gemeinschaft.

Ich denke, dieser Fokus auf einen "ganzheitlichen" Ansatz gilt für alles, was KI jetzt berührt, nicht nur für Mathematik. Auf Twitter sehe ich Leute, die Spiele in einem Durchgang schaffen oder Spiele reproduzieren. Wenn das Ziel nur darin besteht, ein Spiel mit KI in einem Durchgang zu schaffen, ist es erledigt. Aber wenn das Ziel darin besteht, ein immersives Medium zu schaffen, das die Menschen wirklich genießen können, die Geschichte und die Handwerkskunst bewundern und ganz neue Wege finden, eine Geschichte zum Leben zu erwecken, dann ist das etwas ganz anderes.