Oxford-Studentin: ChatGPT rettete meinen Master – aber ich vertraue ihm nicht

Ich bin froh, dass ich meine Promotion abgeschlossen habe, bevor irgendetwas davon auf den Markt kam. Es klingt, als wäre es eine wesentlich andere Erfahrung gewesen, und ich vermute, ich hätte sie nicht mit einem so soliden Verständnis meines Dissertationsthemas abgeschlossen, wie ich es habe.

Ihr Kommentar über das Mathematica-Notebook trifft genau ins Schwarze. Als Wissenschaftler, nicht als Softwareentwickler, der Code als Werkzeug nutzt, um kritischere Teile meiner Arbeit zu beschleunigen, war ich begeistert, die Chance zu haben, Programmierkenntnisse on the job zu lernen. Ich konnte es rechtfertigen, weil die durch die Früchte eingesparte Zeit die Zeit überwog, die ich mit dem Lernen verbrachte. Das kann ich nicht mehr. Ich baue keine Software, ich skripte nur, also können selbst die billigsten Modelle mir heute geeigneten Code schneller liefern, als ich ihn selbst schreiben könnte. Also kann ich das Erlernen neuer Programmierkenntnisse nicht mehr rechtfertigen, zumindest nicht während der Arbeitszeit. Ich bin froh, dass ich ein paar Jahre hatte, um die Grundlagen zu erlernen, bevor diese Tools verfügbar wurden.

Die Gesellschaft profitiert, wenn persönliche Zusammenarbeit Verständnis aufbaut und neue Ideen und Ansätze schafft /bei beiden Parteien/.

Da nun die früheren potenziellen Mitarbeiter sich von mehr oder weniger demselben generierten Inhalt ernähren, ist es schwer zu erkennen, wie KI das ersetzen soll.

Und ganz zu schweigen von der weiteren Entfremdung, die es verursacht, worauf im Artikel stark angespielt wird.

Ich stimme dem Artikel auf der narrativen Ebene einigermaßen zu.

In letzter Zeit haben sich meine Gedanken über unsere LLM-Zukunft auch ein wenig verdüstert.

Ich finde die Parallele zwischen LLMs und den Sophonen aus den Drei-Körper-Problem-Romanen zunehmend zutreffend. Das heißt, speziell in Bezug auf ihre Wirkung, den menschlichen Fortschritt zu blockieren. Sicher, jeder kann sich dafür entscheiden, LLMs nicht zu nutzen (anders als bei Sophonen), also scheint die Einschränkung des Fortschritts in diesem Sinne irgendwie "weich" zu sein, aber die Chancen, dass sich jemand dafür entscheidet, sind meiner Meinung nach nicht allzu hoch. Es ist so viel einfacher, sich nicht dazu zu zwingen, schwierige Dinge zu lernen oder zu erforschen, und stattdessen einfach das Modell zu fragen.

Während ich dies in einem Bereich wie Software Engineering tendenziell unterstütze (wenn nur die Aspekte Standards und Qualitätskontrolle so schnell voranschreiten würden wie die reine Codegenerierung...), teile ich die gleichen Ängste wie Tao und andere in Bezug auf Mathematik (und nicht nur Mathematik; Informatik, die letztlich dem Software Engineering zugrunde liegt, steht ebenfalls im Rampenlicht).

> Insbesondere wäre es ziemlich traurig, eines der wenigen Dinge zu zerstören, die unserem Leben Sinn geben, nicht der schicke Preis oder die schicke Position, sondern einfach eine Gemeinschaft zu haben, in der man teilen, diskutieren und lernen kann.

Genau. Das Problem ist allerdings ein seltsames, denn es gibt mindestens unabhängige Kräfte, die hier zusammenwirken:

(1) Die Menschen, die KI erfinden, oder diejenigen, die pro-KI sind, sind typischerweise diejenigen, die darauf konditioniert wurden, den "Informationsrausch" zu genießen und persönlichen oberflächlichen Genuss über menschliche Interaktion zu stellen. Viele Nerds/Geeks lieben einfach die Vorstellung, einen Spielplatz zu haben, frei von der Notwendigkeit, tatsächlich außerhalb ihres Mikrokosmos zu interagieren, und so halten sie KI für das Beste seit geschnittenem Brot. Sie sind oft Menschen, die in der Schule gehänselt oder zumindest teilweise früh im Leben ausgegrenzt wurden wegen ihrer Intelligenz und die emotionalen Trost in der Technik finden.

(2) Die pervertierten Anreize der Akademie belohnen Publizieren, und allgemein erzeugen die Anreize des Kapitalismus ein Wettrüsten, um so effizient wie möglich zu sein, auf Kosten von Gütern wie "Gemeinschaft", die nur vage Vorteile abwerfen, oft außerhalb des kapitalistischen Systems. Also neigen Menschen dazu, KI zu nutzen.

(3) Sehr fortschrittliche Technologie selbst schwächt und zerstört sogar kleinere Gemeinschaften, deren Mitglieder dann Technologie als oberflächlichen Balsam suchen, um das zu lindern, was sie bewusst oder unbewusst als etwas Fehlendes empfinden.

KI war nie großartig. Wissen als Selbstzweck ist keine gute Sache, und wir sollten Wissen t […]