Los agentes de IA jubilan las abstracciones de CUDA

Retire the Abstractions

En el laboratorio Hazy Research de Stanford, los autores construyeron megakernels para acelerar modelos de lenguaje, pero encontraron que las abstracciones de C++ eran difíciles de manejar. Este año, al construir un megakernel para MoE, eliminaron la capa de abstracción y usaron agentes de IA para generar código optimizado directamente. Argumentan que los agentes están reemplazando a las abstracciones como descargadores cognitivos, y predicen que los DSL de CUDA, como ThunderKittens, serán los próximos en jubilarse. Reflexionan sobre el valor de los codebases frente a los prompts, y sobre qué se conserva cuando las abstracciones se retiran: la intención, los invariantes, las pruebas y el conocimiento del dominio.