Модели OpenAI ускорили проектирование чипов: годовой прогресс AMD за пять месяцев
Advancing chip design with OpenAI models
OpenAI показала, как её модели помогли спроектировать первый собственный чип Jalapeño и улучшить PPA на флагманском GPU IP AMD до 14% относительно уже сильно оптимизированных базовых версий. Модель переписывала SystemVerilog RTL на уровне эксперта-микроархитектора, а часть изменений AMD уже отправила в производство. На открытых RISC-V ядрах PicoRV32 и Ibex GPT-6.2 Astra показала лучшие результаты, а проектирование с нуля по спецификации дало более высокие оценки, чем оптимизация готового дизайна.
Это примерно год прогресса, достигнутый менее чем за 5 месяцев — беспрецедентный результат на переднем крае проектирования чипов.
- jacquesm
Интересно, как первый период AI-компаний был посвящён улучшению их ИИ, а теперь они диверсифицируются практически во все другие отрасли с моделями, которые не выпускают на рынок. По сути, эти компании теперь конкурируют с каждым своим клиентом, при этом имея инсайдерскую информацию о том, чем эти клиенты занимаются.
Для меня это означает две вещи: низко висящие плоды уже сорваны, и теперь мы находимся на медленной, но устойчивой части траектории постепенных улучшений; а во-вторых, если вы делитесь своими корпоративными секретами с этими компаниями, можете быть уверены, что рано или поздно это будет использовано против вас, причём они будут использовать инструменты, которые вы не сможете у них купить ни за какие деньги.
- sascac
Название чипа Jalapeño — это здорово. Оно не только обыгрывает горячие чипсы (hot potato chips), но и халапеньо родом из Халапы, города в Мексике. Xalapa происходит от науатльского слова Xallapan, что примерно переводится как «место песчаной воды». Эти чипы делаются из кварцевого песка, а дата-центр затем использует воду для их охлаждения. Дата-центр — это место песчаной воды!
- skyberrys
Я вижу хорошие результаты в проектировании чипов, если рассматривать это как задачу разработки программного обеспечения: использовать агента для написания софта, который генерирует мои схемы, а затем писать софт для автоматизации моего EDA-процесса. После этого агент может присматривать за несколькими моими запусками многочасового моделирования, чтобы мне больше не приходилось это делать.
Хотя я не иду напрямую в RTL. На самом деле только малая часть дизайна в RTL, основная масса — аналоговая.
- zardo
Я что-то упускаю, или они не делятся этими RISC-V дизайнами?
- george_max
Интересно, когда мы дойдём до того, что ИИ будет проектировать собственные машины, подобные TSMC, специализированные для AI ASIC, а также проектировать собственную серверную инфраструктуру, здания и т.д.
- tschellenbach
Те же самые циклы улучшения произойдут в каждой области науки.
- amelius
Я уже говорил это раньше... именно так nvidia приближает собственный крах.
- zackmorris
Будет интересно посмотреть, действительно ли ИИ начнёт внедрять инновации в проектировании схем или просто продолжит делать неправильные вещи быстрее. Но я готов поспорить, что скоро он обгонит статус-кво на голову, и поделом.
Мы находимся далеко на длинном хвосте тупикового подхода к вычислениям, который начался в конце 1990-х с GPU, когда мы решили оптимизировать SIMD в ущерб вычислениям общего назначения. Вдобавок ко всему, закон Мура закончился примерно в 2007 году с появлением смартфонов, когда индустрия выбрала минимизацию стоимости и энергопотребления вместо максимизации вычислений через многоядерный подход.
Теперь только серверы имеют доступ к высокомногоядерным чипам, таким как AMD EPYC, по цене в 10-100 раз выше и с худшей производительностью, чем если бы они максимизировали локальную/разделяемую память с кэшированием по содержимому. Линейка процессоров Apple M неплоха, но её специализированные ядра просто мешают более высоким абстракциям, доступным при симметричной мультипроцессорной обработке, на основе которой можно строить специализированные алгоритмы. Нам всё ещё не хватает многоядерного фундамента.
Я использовал Synopsys и Cadence ещё в колледже в конце 1990-х для автоматического размещения и трассировки схем из диаграмм в SPICE (кажется, память подводит), и они уже работали на 80% так же хорошо, как люди. Не помню, относилось ли это к площади чипа, скорости или энергопотреблению. Но крупные игроки, очевидно, использовали инструменты как минимум такие же мощные, как те, на которых нас обучали.
Затем в 2000-х я надеялся делать то, что сейчас делает OpenAI, и симулировать небольшие/открытые проекты CPU на FPGA. […]