KI-Preise fallen 56-fach in sechs Monaten

> Alles zu lesen wird zum Standard. Bei einem Cent pro Dokument kann ein Modell jedes Papier lesen

Ich liebe es, wie in unserer Zeit "alles lesen" bedeutet "der Computer liest es für mich".

Ich erwarte, dass der Computer bald Fahrrad fahren und Zeit mit meiner Frau verbringen kann.

Ich denke, dass Geschwindigkeit tatsächlich ein größerer Faktor sein wird als Kosten. Selbst Projekte, bei denen "Geld keine Rolle spielt", stoßen oft an eine Wand bei den Antwortzeiten von LLMs.

Sicher, man kann Dinge mit paralleler Arbeit unter Subagenten beschleunigen, aber wie bei der Parallelisierung traditioneller Rechenaufgaben gibt es abnehmende Gewinne.

Ich höre immer wieder Leute sagen, man solle einfach die Arbeitsweise ändern, um langlaufenden Agenten zu vertrauen und mehr Aufgaben parallel zu erledigen, weil sie für viele Anwendungsfälle zu langsam für interaktive Arbeit sind. Ich denke, das ist schmerzhaft in einer Welt, in der wir erwarten, dass Menschen ihre tägliche Arbeit weiterhin stark anleiten und mit Agenten interagieren.

Ich denke, ein großer Bereich ist Robotik. Ein Roboter kann heute deine Wäsche falten. Es dauert ~10 Minuten pro Stück. Ernsthaft. Es dauert lange, das Bild zu verarbeiten, die Ecke zu finden, den Greifer zur Ecke des Hemdes zu bewegen und zu versuchen, es vor dem Falten zu glätten.

Roboter bewegen sich derzeit im Allgemeinen in Gletschergeschwindigkeit. Du hast vielleicht Roboter gesehen, die in halb kontrollierten Umgebungen Saltos machen, aber beobachte, wie langsam sie Türen öffnen usw. Die Verarbeitungszeit ist ein großer Engpass.

Ich liebe kleine Modelle. Die Gemma4 26/31b Modelle waren zutiefst beeindruckend bei seltsamen Prosa-Analyseaufgaben, an denen ich arbeite. Nova-micro ist wirklich dumm, aber extrem schnell, wenn es schlau genug ist, etwas zu tun. Ich versuche, diszipliniert zu sein, Qualität vs. Kosten überall für echte Systeme zu bewerten, die auf diesem Zeug aufbauen. Ich muss wahrscheinlich von Bedrock weg, weil es viele andere kleine Modelle vermisst, die gute Konkurrenten sein könnten.

Persönlich sehe ich LLMs immer noch als sehr fortgeschrittene Suchmaschinen, denen Intelligenz fehlt. Mir scheint, dass die Kosten für die Beschaffung von Daten durch LLMs gesenkt werden, nicht die Kosten für Intelligenz. Ich meine: Wir sagen dem Modell, was wir erreichen wollen, und das Modell antwortet mit den richtigen Daten in Form von Code in Sekunden.

Deshalb werden 'Stackoverflow-Programmierer' es schwer haben, mit LLMs zu konkurrieren, aber Ingenieure werden immer noch für ihre Intelligenz gebraucht.

Nun, das ist nur meine bescheidene Meinung.

100x scheint eine Unterschätzung zu sein. Selbst ohne Modellverbesserungen sollten wir diese Art von Reduzierung sehen. Wenn man sich TSMCs Margen, Nvidias Margen und die (angeblichen) Margen von OAI/Anth bei der Inferenz ansieht, gibt es Raum für eine 100-fache Reduzierung.

Derzeit sind alle drei auf abnormal hohen Niveaus. Der Wettbewerb wird für alle drei kommen.

Ich denke, was viele Leute am Jevons-Paradoxon übersehen, ist die Nachfrageelastizität der zugrunde liegenden Ressource.

Textilien hatten das Jevons-Paradoxon, und viele mehr Textilarbeiter wurden beschäftigt, sogar als Textilmaschinen hergestellt wurden, bis wir die Nachfrage nach billiger Kleidung in der Welt gesättigt hatten, und dann waren Textilarbeiter erledigt (genauso für Landwirtschaft und Pferde).

Software durchläuft derzeit das Jevons-Paradoxon, aber es ist sehr unbekannt, wie hoch die Decke der Nachfrage nach Software ist. Webentwicklung könnte dem Untergang geweiht sein, aber Software im Allgemeinen ist meiner Meinung nach wahrscheinlich grenzenlos.

Intelligenz ist wahrscheinlich auch unbegrenzt (derzeit sind Software und Intelligenz sehr eng miteinander verbunden). Es ist sehr möglich, dass die Token-Ausgaben für immer die Kurve hinaufgehen.