KI zerstört die intellektuellen Gemeinschaften, die sie nährt

Das ist gut formuliert und etwas, mit dem viele von uns, glaube ich, kämpfen.

Das Internet selbst scheint voll zu sein von den KI-Maximalisten, die kein Ende des Hypes für die neueste Prompt-„Technik“ finden, oder von den KI-Doomern, die dich bei lebendigem Leibe häuten würden, wenn du erwähnst, dass du einmal KI benutzt hast, um ein Foto zu erstellen.

Leise unter Gleichgesinnten, mit denen ich spreche, scheint es eine ganz andere Gruppe zu geben: diejenigen, die erkennen, dass KI super wertvoll ist, um viel Arbeit zu erledigen, aber auch das Gefühl haben, dass die Arbeit plötzlich so viel weniger spannend ist als vorher.

Sicher, es gibt die offensichtliche Komponente „Ich genieße die Mechanik des Programmierens“, die verloren gegangen ist, aber dann gibt es auch dieses allgemeine Gefühl, das schwer abzuschütteln ist und etwas tiefer zu gehen scheint. Ich habe darüber nachgedacht. Sind es all die Entlassungen? Die plötzlich wackelige Wirtschaft für viele unserer Unternehmen? Die Unsicherheit über die Zukunft der Karriere im Allgemeinen?

Ich denke, der Autor hat den Finger gut auf die Wunde gelegt, als er es als Mangel an intellektueller Gemeinschaft beschrieb. Das scheint zumindest ein Teil davon zu sein.

Das hat mir wirklich gefallen. Ich habe genau das erlebt, was der Autor beschreibt – früher lag mir mein Handwerk (iOS-Apps) sehr am Herzen, und das wurde durch KI zunichtegemacht. Nicht, dass Handwerk und Geschmack nicht immer noch ein Unterscheidungsmerkmal wären – ich denke, es ist einfach so viel weniger befriedigend, etwas Perfektes über Wochen zu erschaffen, wenn man in einem Nachmittag 80 % davon erreichen kann.

„Private intellektuelle Aktivität, die anhaltend, komplex und langfristig ist, benötigt eine externe intellektuelle Gemeinschaft, die Material und Motivation liefert, wie Brennstoff und Oxidationsmittel. Diese private Aktivität wiederum erhält die Gemeinschaft ...“

Ich denke, ein Großteil der größten Kunst wurde von dieser Art von „Szene“ hervorgebracht. Musik zum Beispiel wird nicht nur von einem Individuum geschaffen, sie entsteht aus dem Zuhören und Zuschauen und Zusammenspielen mit anderen. Später setzt man sich hin, und all dieser Input verwandelt sich in etwas ganz Neues.

Ich glaube, zur gleichen Zeit, als ich anfing, „aus dem Programmieren herauszukommen“, begann ich, tiefer in die Musik einzusteigen. Und wenn es nur ich gewesen wäre, wäre das eine kurzlebige Sache gewesen. Aber Menschen im echten Leben zu haben, mit denen man spielen und sich austauschen kann, macht es etwa 100-mal besser und hält einen lange aufrecht, nachdem man allein aufgegeben hätte.

Ich würde jedem, der sich so fühlt, ermutigen, etwas Ähnliches zu finden. Der Akt der Schöpfung ist immer noch so wesentlich wie zuvor, man muss seine Energie nur auf etwas rein Menschlicheres richten. Fang an zu schreiben, zu zeichnen, zu tischlern ... auch wenn diese Dinge sofort massenproduzierbar sind, werden wir es immer noch schätzen und dafür bezahlen, dass Menschen sie tun.

Ich t […]

Ja. Ich habe ein paar Freunden und Bekannten gesagt, dass KI irgendwie die uninteressanteste Technologie in meinem Leben ist – die Befürworter nutzen KI, um darüber zu schreiben, wie sie KI benutzt haben, um neue Tools zu bauen, die ihnen helfen, ihre KI zu ki-en, die Hasser schreiben (oder benutzen, was erschreckend ist, KI, um darüber zu schreiben), wie KI uns alle ki-en wird. Hast du diese neue Fähigkeit ausprobiert? Lies mein Forschungspapier, es zeigt, dass KI gute Arbeit ohne Aufsicht leisten kann? Oh ja, das ist interessant, was denkst du darüber, wie es X, Y und Z gemacht hat? Ich weiß nicht, Mann, ich habe nicht so viel Zeit damit verbracht.

Es wird einsam da draußen, selbst oder gerade wenn man sich auf „KI ist mir ziemlich egal“ eingependelt hat.

Es gibt mehrere Dinge in diesem Beitrag, mit denen ich nicht einverstanden bin (eine Frage der Perspektive, denke ich):

> Der Diskurs über Software Engineering ist dümmer geworden. Es ist, als hätte jeder in der Branche 30 IQ-Punkte verloren. Früher sprachen die Leute über Compiler, Typsysteme, Logik. Jetzt sprechen sie über „Prompts“, „Harnesses“, „Loops“. Der Diskurs ist enger, oberflächlicher und repetitiver. Ich kann nur so oft über „agentische Harnesses“ hören, bevor ich wahnsinnig werde.

Ich stimme der Frustration hier zu :)

> Du entwirfst eine revolutionäre neue Programmiersprache: Wen interessiert das? Vielleicht interessiert es Claude, was auch immer das wert ist. Aber Menschen schreiben oder lesen den Code nicht mehr. Die Programmiersprache ist ein Implementierungsdetail, um das sich die Menschen nicht mehr kümmern müssen.

Vielleicht werden die Leute, die nicht geneigt waren, über Compiler, Typsysteme und Logik nachzudenken, bevor es Coding-Agenten gab, niemals über diese Dinge nachdenken. Wenn überhaupt, denke ich jetzt deutlich mehr über diese Systeme nach, weil ich sie als Wege betrachte, den Suchraum für den Agenten zu beschreiben ... und vielleicht in Zukunft sogar als Werkzeuge, um agentische latente Repräsentationen zu strukturieren.

Also schlage ich vor, den Blickwinkel zu drehen: Ja, vielleicht kann man sich vorstellen, dass es keinen Sinn ergibt, über diese Dinge für den menschlichen Konsum nachzudenken ... aber was wäre, wenn wir Programmiersprachen- und Compiler-Design als Werkzeug betrachten, um den Suchraum zu kontrollieren, und plötzlich gibt es viele neue Wege, über diese Dinge nachzudenken.

Ist das eine wertvolle Denkweise? Ich […]

Ich habe Anfang dieser Woche einen Blogbeitrag mit sehr ähnlichen Argumenten als Antwort auf einige Mathematiker-Meinungen geschrieben – kurz vor dem OpenAI-Paper-Drop vor ein paar Tagen (https://creating.software/essays/ai-and-math/).

Ich habe das Gefühl, wir alle erkennen gleichzeitig, dass (1) intellektuelle Aktivität gemeinschaftlich ist und doch (2) diese Gemeinschaften durch die Anerkennung individueller Leistungen erhalten werden. Was für eine Art, das herauszufinden.

Ich behaupte (hier und in meinem Beitrag), dass die Menschheit ohne diese menschlichen Gemeinschaften tatsächlich nicht vorankommen kann. Es ist entscheidend, dass Menschen nicht aufhören, Dinge zu lernen, die KI besser weiß als sie, weil sie eine wichtige Rolle in diesen Gemeinschaften spielen, und die Gemeinschaft ist entscheidend.

Meine (vielleicht naive) Hoffnung ist immer noch, dass Menschen Wege finden, diese Dinge zum Spaß weiterzumachen, wie Schach (Wettbewerbe, Auszeichnungen, Trainer, ich weiß nicht). Wir haben immer noch Schachwettbewerbe und Ähnliches, obwohl Computer weit besser im Schach sind und das schon eine Weile so ist. Die Gemeinschaft und die Anerkennung individueller Leistungen sind beide da. Und menschliches Schach und Schach-Engines sind enorm besser geworden, sodass die Computerdominanz den Fortschritt im Schach nicht abtöten konnte (der heutige Stockfish hätte Kasparov 1997 auf einem Desktop von 1994 geschlagen: https://www.lesswrong.com/posts/4MLBK7iCW3vYd93Mn/a-closer-l...)

Vielleicht leben Mathe-Olympiaden und Programmierwettbewerbe weit über das Ende ihres praktischen Nutzens hinaus weiter – ich mochte sie immer.