Der KI-Bubble fehlt das entscheidende Merkmal aller bisherigen Blasen

Wenn ich mir die derzeitigen Fähigkeiten der KI ansehe, habe ich wirklich das Gefühl, dass es so viel Potenzial für den Einsatz von Frontier-Modellen gibt, das einfach noch nicht genutzt wird. Die meisten (oder vielleicht sogar alle) Programmierer und Mathematiker sind in ihrem jeweiligen Bereich schlechter als ein KI-Schwarm, der mit einem guten Harness ausgestattet ist, und zudem deutlich teurer.

Das ist eine seltsame Schlussfolgerung. Soweit ich weiß, funktioniert es in der Mathematik noch nicht so, wie der Artikel sagt: Es gibt ein Problem, man richtet einen Agentenschwarm darauf, und markiert es als erledigt. Die mathematischen Ergebnisse von OpenAI und Anthropic wurden erzielt, indem man die Oberfläche bekannter Probleme besät und zufällig versucht hat, Lösungen wachsen zu lassen; obwohl sie tatsächlich einige gute Lösungen gefunden haben, heißt das nicht, dass aktuelle LLMs für beliebige mathematische Probleme funktionieren werden.

Korrigiert mich, wenn ich falsch liege, ich bin nur ein Mathematikstudent und keineswegs Forscher.

Was den Programmierteil betrifft, so sagt der Autor bereits, dass automatisierte Lösungen einen guten Harness erfordern, und das ist tatsächlich richtig, aber meiner Erfahrung nach ist der Bau eines guten Harness schwierig, und Agenten können dies derzeit nicht ohne engmaschige menschliche Führung bewerkstelligen. Und in der Programmierpraxis vor LLMs brauchten wir überhaupt keinen Harness oder nur einen kleinen Teil davon: Also beinhaltet das Lösen von Programmierproblemen mit LLM mehr Arbeit als ohne LLM, selbst wenn ein großer Teil dieser Arbeit automatisiert werden kann.

Der Rest des Artikels scheint eine Spekulation zu sein, die hauptsächlich auf der Prämisse beruht, dass LLM den Menschen wirklich aus der Schleife ersetzen können, was derzeit offenbar nicht der Fall ist.

> Profite können wachsen, und zwar stark

Profite werden erwähnt, aber dann wird nur über Umsatz gesprochen, Umsatz != Profit. Der Umsatz kann ja wachsen, aber die Phase des Experimentierens/Token-Maximierens endet und die Preiskämpfe haben begonnen, also bin ich mir bei steigenden Profiten nicht sicher. KI-Labore werden nicht unbedingt in der Lage sein, die Marge zu erfassen (>>China<<), es könnten die Unternehmen/Verbraucher sein, die den größten Teil davon erfassen. Wenn dem so ist, gibt es eine Blase – sie liegt in den KI-Laboren mit ihren Billionen-Dollar-Bewertungen, und sie könnten in einem Wettlauf nach unten enden. BigTech ist größtenteils nicht in einer Blase, sie werden eine Korrektur durchstehen und sich auf ihr bestehendes Geschäft zurückbesinnen.

Die gesamte Prämisse, ob es eine Blase ist, hängt davon ab, ob LLMs mehr sein können als eine Maschine zur Vorhersage des nächsten Tokens. Das Hinzufügen von Reasoning-Agenten, Agentenschwärmen und so weiter, um die Ergebnisse dessen zu verbessern, was im Wesentlichen nur die Vorhersage des nächsten Tokens ist, bedeutet immer noch, dass diese Technologie im Kern nur das nächste Token vorhersagt. Es ist nicht AGI, und es sei denn, etwas Grundlegendes ändert sich, wird es das nie sein. Es gibt sicherlich wertvolle Anwendungen für diese Technologie, wie wir in der Programmierung, Mathematik und anderen Bereichen gesehen haben. Aber es ist immer noch nicht mehr als das Aufnehmen einer großen Datenmenge und die Vorhersage des nächsten Tokens.

In der Zwischenzeit finanzierten die großen Tech-Unternehmen diesen Ausbau zunächst aus dem Cashflow ihrer bestehenden Einnahmen. Als dies schwieriger zu rechtfertigen wurde, gründeten sie buchstäblich Unternehmen, um dies direkt aus ihren Büchern herauszuhalten, und diese Unternehmen sind letztlich darauf ausgelegt, Verluste zu machen und zu scheitern. Aber bevor sie diese Phase des Scheiterns und des Zahlungsausfalls bei Schulden und Verpflichtungen erreichten, gingen sie zu den Kriminellen an der Wall Street und entwarfen ein Finanzprodukt, das nicht allzu anders strukturiert ist als hypothekenbesicherte Wertpapiere. Außerdem, während die "KI"-Aspekte ihrer bestehenden Geschäfte expandieren, frisst dies die traditionellen Einnahmen auf, die von ihrem Kerngeschäft generiert werden, welches, wenn wir uns erinnern, die ursprüngliche Sicherheit ist, die zur Rechtfertigung all der Schulden verwendet wurde. Jetzt müssen diese Kerntechnologieunternehmen "KI" gewinnen, was auch immer das letztendlich bedeuten mag, um nicht nur die Schulden aus dem Ausbau zu bezahlen, sondern auch ihre ehemaligen […]

Große rote Flaggen, die meiner Meinung nach in die andere Richtung zeigen:

- Anthropic-IPO-Neubewertung

- Die Lücke an der Pareto-Front zwischen offenen und geschlossenen Modellen schrumpft von Monat zu Monat

- SpaceX-Enttäuschung

- Unternehmenskäufer als Hauptkonsumenten geschlossener Token werden durch OS-Konkurrenz für Pennies verdrängt

- Arbeitsplatzverluste und Zusammenbruch der Einstellung von Berufsanfängern

- Massive Rabatte auf aktuelle Rechenzentrumsvertragsschulden

- Die Effizienz von Consumer-Open-Weights-Modellen verbessert sich ständig

- Das chinesische Wettrüsten

- Eine mögliche schnelle Abwärtsspirale, die Regierungen zum Eingreifen und Subventionieren zwingen könnte

Habe ich etwas übersehen?

Ich bin nicht überzeugt von den Behauptungen, dass Infrastruktur nur anfangs teuer im Aufbau ist. Hardware hält nicht ewig, besonders in einem Rechenzentrum, Wartung ist nicht kostenlos, Strom wird nicht deutlich billiger werden. Wenn Modelle effizienter werden, brauchen wir keine superteuren und umfangreichen Hardware-Ausbauten; wenn Modelle immer leistungsfähiger und bedürftiger werden und hardwarebedingt limitiert sind, wird jede neue Hardware-Generation all diese teure und bald veraltete Hardware in Bezug auf Energieeffizienz übertrumpfen und eine weitere massive Finanzierungsrunde erfordern, die Akteure, die bereits Schulden halten, nur schwer aufbringen können.

Ja, die Menschen träumen davon, zu der Art und Weise zurückzukehren, wie es früher war, und in Bezug auf künstliche Intelligenz wurden unumkehrbare Schritte unternommen. Aber während ein bestimmter Teil der Gesellschaft wirtschaftlich reicher wird, steuert die Menschheit auf eine unumkehrbare soziologische Zerstörung zu.

Um eine Analogie zu verwenden: So wie in postapokalyptischen Filmen, in denen Menschen einander essen, steuern wir als Spezies auf ein düsteres Ende zu.

Lohnt es sich, das zu lesen? Ich muss fragen wegen des Anime-Avatars, der den Autor schon für sich genommen stark diskreditiert.

Ich weiß nicht, ob die Bewertungen Sinn ergeben, aber die Nutzbarkeit ist auf jeden Fall gegeben, und die potenziellen Profite ebenso. Über ein Jahrzehnt hinweg ist das wahrscheinlich alles, was zählt. Wenn die Bewertungen platzen oder sinken (jederzeit bald), halte ich das für weitgehend irrelevant. Ich verstehe, dass die Presse diese langweilige Schlussfolgerung wahrscheinlich nicht gerne hört.

P.S.: Ein Matlab/Physik-Simulations-Typ, der für einen Sitz der Liberal Party in Kanada kandidiert? Erzähl mehr!

Ich bin nicht einfallsreich genug, um mehr Anwendungsfälle zu sehen und wer dafür bezahlen wird. Man kann eine Menge Token und Dollar für mathematische Beweise verbrennen. Dasselbe gilt für White Hats, die Schwachstellen in all der Software finden. Videoerzeugung.

Persönliche Assistenten, die sich um deine E-Mails kümmern, Formulare ausfüllen und Reservierungen buchen, verbrauchen nicht viele Token.

Wenn jeder Softwareentwickler 200 $/Monat zahlen würde, jeder Akademiker das, was er für Matlab- oder Mathematica-Lizenzen zahlt, jeder YouTuber für was auch immer für Videoverarbeitung, und jede normale Person ein Abonnement vergleichbar mit ihren TV-Abos und Handyverträgen – rechtfertigt das die Bewertungen?

Die Regierung zahlt für Überwachung? Unternehmen zahlen für Kundendienst-Ersatz und gezielte Werbung?

Es scheint, als gäbe es ein paar kleine Kategorien, die viele Token verbrauchen, und eine große Kategorie, die überhaupt nicht viele braucht.