LLM Attention Visualization - Interactive tool for visualizing attention in LLMs

LLM Attention Visualization es una herramienta interactiva que permite explorar cómo los modelos de lenguaje grandes (LLMs) toman decisiones durante la generación de texto. Al hacer clic o pasar el cursor sobre cualquier token generado, se revelan los tokens anteriores que influyeron en su creación, mostrando visualmente el mecanismo de atención del transformer. Esta visualización simplificada agrega los pesos de atención a través de todas las cabezas y capas, ofreciendo una visión intuitiva de cómo el modelo copia información, combina conceptos y mantiene la coherencia. La herramienta incluye ejemplos pre-generados para una exploración instantánea y también permite generar texto en el navegador mediante un modelo instrumentado alojado en Hugging Face. Es una forma fascinante de comprender el funcionamiento interno de los LLMs y desmitificar su aparente capacidad para copiar y pegar sin errores.