Los agentes de IA jubilan las abstracciones de CUDA
Retire the Abstractions
En el laboratorio Hazy Research de Stanford, los autores construyeron megakernels para acelerar modelos de lenguaje, pero encontraron que las abstracciones de C++ eran difíciles de manejar. Este año, al construir un megakernel para MoE, eliminaron la capa de abstracción y usaron agentes de IA para generar código optimizado directamente. Argumentan que los agentes están reemplazando a las abstracciones como descargadores cognitivos, y predicen que los DSL de CUDA, como ThunderKittens, serán los próximos en jubilarse. Reflexionan sobre el valor de los codebases frente a los prompts, y sobre qué se conserva cuando las abstracciones se retiran: la intención, los invariantes, las pruebas y el conocimiento del dominio.
Las abstracciones se jubilan. Las ideas permanecen.
- bloaf
Siento que esto es exactamente lo contrario de la conclusión a la que he estado llegando. En una era donde cualquiera puede programar por vibración en un abrir y cerrar de ojos, quiero poder afirmar garantías/contratos a un alto nivel, y luego dejar que la IA resuelva los detalles. Quiero obligar a la IA a trabajar dentro de los límites de una abstracción, no independientemente de ella.
- JSR_FDED
“Primero, una abstracción no es solo una forma de gestionar la carga cognitiva; es una superficie compartida donde se adjuntan la aplicación, la reutilización y la revisión.”
Eso está escrito de una manera seriamente enrevesada.
- gradus_ad
Las especificaciones precisas siempre deben darse, no pueden razonarse hasta que existan, porque están moldeadas por consideraciones externas.
No importa cuán inteligente sea el ejecutor, sin conocimiento del contexto externo relevante, las especificaciones siempre tendrán que definirse claramente y darse.
- socketcluster
Necesitamos abstracciones más que nunca. El punto real es que deberíamos retirar las abstracciones innecesarias.
Una buena abstracción es una espada de un solo filo que simplifica la tarea. Una abstracción mediocre es una espada de doble filo. Una mala abstracción es como una espada de un solo filo con un mango restrictivo y el filo afilado apuntando hacia ti.
- vatsachak
Esta es una pésima idea. Los agentes LLM no tienen gusto (capacidades de abstracción). Son como el agua, toman la forma del recipiente en el que están. Son mucho más poderosos cuando construyes tu propio marco en el que puedan trabajar.