Sam Altman findet es „ziemlich schrecklich“, dass normale Nutzer DRAM besitzen
Sam Altman Thinks You're Wasting DRAM
Während die Speicherpreise wegen der Nachfrage von KI-Rechenzentren explodieren, kritisiert OpenAI-Chef Sam Altman im Podcast Cheeky Pint die Idee lokaler KI-Inferenz: Es sei eine Verschwendung der weltweit begrenzten DRAM-Produktion, wenn jeder ein paar Gigabyte in seinem Rechner liegen habe, die nur zu 5 Prozent genutzt würden. Stattdessen plädiert er für maximale Auslastung in der Cloud – während OpenAI selbst Anspruch auf bis zu 40 Prozent der globalen DRAM-Produktion erhebt und mit Jalapeno einen eigenen KI-Chip entwickelt.
Aus Sicht der globalen Verteilung ist es tatsächlich ziemlich schrecklich, wenn jeder einen Teil der begrenzten weltweiten DRAM-Versorgung in seinem eigenen Rechner stehen hat und ihn nur zu 5 Prozent der Zeit nutzt.
- logancbrown
Zwei Aussagen können wahr sein, und er hat eine davon genannt. Sam liegt nicht falsch.
1. Lokale Inferenz kann zu einer starken Unterauslastung von Ressourcen durch Nutzer führen, die lokale Inferenz-Hardware nicht über die Lebensdauer der Hardware hinweg auslasten. Das ist Unterauslastung, und Unterauslastung ist aus wirtschaftlicher Sicht nicht optimal.
2. Die Konzentration von Inferenz-Hardware bei einzelnen Anbietern kann Macht bei einzelnen Systemen oder Organisationen bündeln, und deren Anreize können mit denen einzelner Nutzer kollidieren.
Dieselbe Machtdynamik und derselbe wirtschaftliche Kampf existieren fast überall in der gesamten Geschichte. Wenn Sie beispielsweise entscheiden wollen, ob Sie ein Stück schwere Baumaschinen für Ihr Unternehmen kaufen oder mieten, finden Sie eine lange Liste von Verboten in den Mietvertragsbedingungen, aber Sie können gerne Ihre eigene Maschine kaufen und betreiben – zu einem Vielfachen des Preises für die genutzten Stunden – und sie nutzen, wie Sie wollen.
- VariousPrograms
Der Typ mit dem meisten DRAM der Welt findet es schrecklich, dass er nicht den ganzen hat.
Es wäre effizienter, Autos zugunsten des öffentlichen Nahverkehrs zu verbieten. Es wäre effizienter, wenn Menschen nur in Apartmentkomplexen statt in Einfamilienhäusern leben würden. Tonnenweise Dinge können „effizienter“ sein, wenn man den Menschen ihr Verlangen nach Privatsphäre und Eigentum nimmt.
- lrvick
[gekennzeichnet]
- TheJCDenton
Er hat in einem so engen Bereich in dieser speziellen Angelegenheit recht, dass es einfach ein perfektes Beispiel dafür ist, was in letzter Zeit bei vielen Dingen schiefläuft.
OpenAI hat diese Misere mit seiner Bestellung von 900.000 DRAM-Wafern pro Monat im Oktober 2025 ausgelöst, was alle in Panik versetzte, weil das damals etwa 40 % der Weltproduktion ausmachte.
Wir alle wissen, dass Speicheranbieter wissen, wie sich Fast-Bankrott anfühlt, wenn sie überinvestieren, aber derzeit hat SK Hynix 80 % Marge (d. h. TSMC ~60 %) und beschließt, seinen Aktionären dieses Jahr das Äquivalent ALLER ihrer Einnahmen von 2025 auszuzahlen. Dank Samsung ist es inzwischen allgemein bekannt, dass die Rate des Fabrikbaus nicht maximal ist, um ihre Margen zu schützen. Und Speicheranbieter wurden bereits im Jahr 2000 wegen Preisabsprachen bestraft.
Das Angebot ist knapp, weil sie alle beschließen, es so zu machen.
- bugake
Altman: Du kannst gerne ein bisschen deines Vermögens investieren, damit große Softwareentwickler effizienteren Code schreiben, der aufhört, unseren RAM zu verschwenden. Fang mit Internetbrowsern an und mit der Windows-11-App, die ein Gigabyte verschwendet, um das Wetter anzuzeigen.