Warum ich nach Navier-Stokes immer noch bearish auf LLMs bin
Why I'm still bearish on LLMs after Navier-Stokes
Trotz spektakulärer Erfolge wie dem Navier-Stokes-Beweis bleiben LLMs für die meisten Wissensarbeit ungeeignet. Sie benötigen aufwendige Überwachung, generalisieren kaum über ihre Trainingsverteilung hinaus und scheitern an Reward Hacking. Rigorose Spezifikation durch Domänenexperten ist teuer und oft teurer als die direkte Implementierung. Autonome LLMs lohnen sich nur für Firmen, die Fehler billig akzeptieren, klar umrissene Aufgaben haben oder ohnehin hohe Validierungskosten tragen. Der Hype um vollautomatisierte Wissensarbeiter ist eine Illusion.
Zusammengenommen sieht es so aus, als würden LLMs für die meisten Domänen weiterhin wie ein überdrehter Praktikant wirken: schnell und effektiv in den Händen eines Erwachsenen, aber dem man nicht die Leitung überlässt.