OpenAI diseñó su chip Jalapeño con sus propios LLMs en solo 20 meses

How OpenAI Used Its Own LLMs to Design Its Jalapeño Chip

OpenAI presentó Jalapeño, su primer acelerador de IA, que alcanza 13.4 petaflops en 4 bits y promete reducir la latencia hasta 3.6 veces frente al GB300 de Nvidia. El chip pasó del concepto inicial al primer silicio en menos de 20 meses, con solo nueve meses entre el primer RTL y el tape-out, gracias a un flujo de trabajo asistido por LLMs. El equipo, de unas 100 personas, usó XLS para la síntesis de alto nivel y modelos internos afinados para diseño de chips, logrando mejoras como un 10 por ciento menos de área en las unidades de multiplicación de matrices.