OpenAI-Modelle verbessern AMD-Chips um bis zu 14 Prozent
Advancing chip design with OpenAI models
OpenAI setzt seine Frontier-Modelle für den Chipentwurf ein. Beim eigenen Inferenz-Chip Jalapeño senkten sie die Standardzellen-Fläche um rund 13 Prozent im Vector-Unit und 10 Prozent im Matrix-Unit. Bei AMD erzielten sie auf der Flaggschiff-GPU-Verifikation bis zu 14 Prozent bessere PPA-Werte gegenüber stark optimierten Baselines – ein Fortschritt von etwa einem Jahr in weniger als fünf Monaten. Einige Änderungen flossen bereits in ein gefertigtes AMD-Design ein. Mit Synopsys entsteht zudem GPT-Synopsys.
Das Modell argumentiert auf RTL-Ebene wie ein erfahrener Mikroarchitekt.
- jacquesm
Es ist interessant, wie die erste Phase der KI-Unternehmen darin bestand, ihre KIs zu verbessern, und sie jetzt in so ziemlich jede andere Branche diversifizieren, mit Modellen, die sie dem Markt vorenthalten. Effektiv konkurrieren diese Unternehmen jetzt mit jedem einzelnen ihrer Kunden, während sie gleichzeitig bestens darüber informiert sind, was diese Kunden vorhaben.
FÜr mich bedeutet das zweierlei: Die niedrig hängenden Früchte sind gepflückt, und wir befinden uns jetzt auf dem langsamen, aber stetigen inkrementellen Verbesserungsteil der Kurve. Und zweitens: Wenn du deine Unternehmensgeheimnisse mit diesen Firmen teilst, kannst du darauf zählen, dass sie früher oder später gegen dich verwendet werden – und zwar mit Werkzeugen, die du von ihnen zu keinem Preis kaufen kannst.
- sascac
Den Chip Jalapeño zu nennen, ist großartig. Das spielt nicht nur auf heiße Kartoffelchips an, sondern Jalapeño-Paprika stammen auch aus Xalapa, einer Stadt in Mexiko. Xalapa kommt vom Nahuatl-Wort Xallapan, was grob übersetzt „Ort des sandigen Wassers“ bedeutet. Diese Chips werden aus Quarzsand hergestellt, und ein Rechenzentrum verwendet dann Wasser, um sie zu kühlen. Ein Rechenzentrum ist ein Ort des sandigen Wassers!
- skyberrys
Ich sehe gute Ergebnisse beim Chipdesign, wenn ich es als Softwareentwurfsproblem behandle: Ich lasse den Agenten Software schreiben, um meine Schaltkreise zu generieren, und dann Software schreiben, um meinen EDA-Flow zu automatisieren. Dann kann der Agent meine mehreren Läufe mehrstündiger Simulationen beaufsichtigen, sodass ich das nicht mehr selbst machen muss.
Ich gehe allerdings nicht direkt auf das RTL los. Tatsächlich ist nur ein kleiner Bruchteil des Designs in RTL, der Großteil ist analog.
- zardo
Übersehe ich etwas, oder teilen sie diese RISC-V-Designs nicht?
- george_max
Ich frage mich, wann wir an den Punkt kommen, an dem KIs ihre eigenen TSMC-ähnlichen Maschinen entwerfen, die auf KI-ASICs spezialisiert sind, zusammen mit ihrer eigenen Serverinfrastruktur, Gebäuden usw.
- tschellenbach
Dieselben Verbesserungsschleifen werden in jedem Bereich der Wissenschaft stattfinden.
- amelius
Ich habe es schon einmal gesagt ... so sägt Nvidia am eigenen Ast.
- zackmorris
Es wird interessant sein zu sehen, ob KI wirklich beginnt, beim Schaltungsdesign zu innovieren, oder ob sie einfach weiterhin die falschen Dinge schneller tut. Aber ich würde wetten, dass sie bald den Status quo um Längen schlagen wird – und das zu Recht.
Wir befinden uns weit draußen auf dem langen Ende eines Sackgassen-Ansatzes zur Berechnung, der Ende der 1990er Jahre mit GPUs begann, als wir uns entschieden, SIMD auf Kosten von Allzweck-Computing zu optimieren. Obendrein endete Moores Gesetz etwa 2007 mit dem Aufkommen von Smartphones, als die Industrie Kosten- und Leistungsminimierung über Rechenleistungsmaximierung durch einen Multicore-Ansatz wählte.
Jetzt haben nur noch Server Zugang zu hochgradig Multicore-Chips wie AMD EPYC, zu 10-100-fachen Kosten und mit schlechterer Leistung, als wenn sie lokale/ geteilte Speicher mit inhaltsadressierbarem Caching maximiert hätten. Apples M-Prozessorserie ist okay, aber ihre spezialisierten Kerne stehen den höheren Abstraktionen im Weg, die mit symmetrischem Multiprocessing verfügbar sind, auf denen spezialisierte Algorithmen aufgebaut werden können. Uns fehlt immer noch das Multicore-Fundament.
Ich habe Synopsys und Cadence Ende der 1990er Jahre im College benutzt, um Schaltkreise automatisch aus Diagrammen in SPICE zu platzieren und zu routen (glaube ich, meine Erinnerung ist neblig), und sie waren bereits zu 80 % so gut wie Menschen. Ich weiß nicht mehr, ob das für Chipfläche, Geschwindigkeit oder Leistung galt. Aber die großen Player benutzten offensichtlich Werkzeuge, die mindestens so leistungsfähig waren wie das, womit wir ausgebildet wurden.
Dann, in den 2000er Jahren, hatte ich gehofft, das zu tun, was OpenAI tut, und kleine/offene CPU-Designs auf FPGAs zu simulieren. […]