Glasfaser hält Jahrzehnte, GPUs nur drei Jahre: Warum der AI-Boom nicht der Dotcom-Boom ist
Fiber lasts decades, GPUs last three years: the AI boom isn't the dot-com boom [video]
Die Hacker-News-Diskussion dreht sich um die These, dass der AI-Boom sich fundamental vom Dotcom-Boom unterscheidet: Glasfaserinfrastruktur hält Jahrzehnte, während GPUs schon nach drei Jahren veraltet sind. Kommentatoren debattieren, ob trainierte Modelle billig zu betreiben sind und was das für Hyperscaler bedeutet, deren Milliardeninvestitionen in Rechenzentren sich nur rechnen, wenn etwa Videogenerierung durchstartet. Andere verweisen auf die Margen von Nvidia und Micron, bei denen das meiste Geld landet.
Wenn die Modelle billig zu betreiben sind, ist das zwar gut für die Kunden, aber ist das nicht ein Problem für die Hyperscaler und all die Investitionen, die in den Ausbau der AI-Rechenzentren geflossen sind?
- ndom91
Schamlose Eigenwerbung: Ich habe kürzlich eine Datenvisualisierungs-Seite/-Projekt zu den Finanzen des AI-Infrastruktur-Ausbaus zusammengestellt. Sie enthält Diagramme und verfolgt Aktualisierungen zu Dingen wie GPU-Abschreibungsplänen wie diesem.
- paxy
- GPUs halten viel länger als 3 Jahre.
- Die Fabriken hören nach 3 Jahren nicht auf zu funktionieren. Sie können weiterhin GPUs herstellen.
- Der AI-Boom dreht sich nicht nur um GPUs. Es gab massive Investitionen in CPUs, RAM, Netzwerk- und Routing-Komponenten, physische Rechenzentren, Kraftwerke, Kühlung und sogar Glasfaser (das Ding, von dem du selbst behauptest, dass es Jahrzehnte hält). Nichts davon wird in ein paar Jahren verschwinden.
- whynotminot
Ich empfehle, sich alle Daten zu A100-Mieten (6 Jahre alte GPU) anzusehen und dann 50 Minuten seiner Zeit zu sparen.
- cmiles8
Es gibt eine Verwendung für ältere GPUs, aber die Chips haben Zuverlässigkeitsprobleme. Es stellt sich heraus, dass Chips, die 24/7 hart laufen, durchbrennen. Es geht also weniger darum, ob sie in einer Weile noch „nützlich“ sein werden, sondern eher darum, ob sie dann noch funktionieren.
Die Leute neigen zu der Annahme, dass es wie bei diesen LED-Glühbirnen ist, die angeblich 15 Jahre halten, aber nach 2 Jahren fangen sie an, mit hoher Rate auszufallen.
Davon abgesehen ist der allgemeinere Punkt immer noch richtungsweisend korrekt. Wir nutzen heute noch Glasfaser aus dem Implodieren der .com-Netzwerkinfrastruktur und werden das noch lange tun. Der Abschreibungszyklus ist unglaublich lang. Die zunehmenden Berichte über GPUs, die in Regalen liegen, weil es keine Rechenzentren gibt, um sie mit Strom zu versorgen, sind sehr besorgniserregend, wenn man bedenkt, dass all die hochverzinsten Schulden verwendet werden, um letztlich ein schnell an Wert verlierendes Asset zu kaufen. Finanziell ist das eine Katastrophe, die darauf wartet, zu passieren.
- deadlast2
Wenn du opencode für deine AI-Arbeit nutzt oder es erschwinglich wird. Bis zu dem Punkt, an dem du vernünftigerweise Anwendungen mit Intelligenz der LLM-Version bauen würdest. Ich denke, in naher Zukunft wird die Intelligenz kostenlos sein, und mit kostenlos macht man kein Geschäft. Ich weiß, das ist eine große Aussage, aber wenn man sich umschaut, gibt es bereits eine große Anzahl kostenloser Modelle mit allmählich zunehmender Stärke. Für die meisten Anwendungen braucht man kein gpt6