OpenAI, 자체 LLM으로 Jalapeño 칩 설계 기간을 20개월로 단축
How OpenAI Used Its Own LLMs to Design Its Jalapeño Chip
OpenAI가 첫 AI 가속기 칩 Jalapeño를 공개했다. 4비트 연산 13.4페타플롭스, HBM4 232GB, 15.4TB/s 대역폭을 갖췄으며 Nvidia GB300 대비 최대 3.6배 낮은 지연시간을 보인다. 설계에는 자체 LLM이 활용되어 아키텍처 구상에서 테이프아웃까지 20개월이 걸렸고, RTL에서 테이프아웃까지는 9개월에 불과했다. 100명 규모 팀이 Broadcom과 협력해 설계했으며, LLM이 칩 설계의 프런트엔드 자동화를 가속할 수 있음을 입증했다.
모델이 우리 엔지니어들에게 초능력을 주고 있습니다. 엔지니어들이 여전히 작업을 주도하고 최종 결정권자입니다. 하지만 훨씬 빠르게 일할 수 있고, 더 많은 경로를 탐색할 수 있습니다.