Humanizar las salidas de los LLM es un error: la compresión pierde información
Humanising LLM Outputs Is Dumb
El autor critica la tendencia de humanizar las salidas de los modelos de lenguaje, como usar instrucciones tipo 'tengo TDAH' o 'Simplified Technical English'. Argumenta que estas reglas se aplican durante el proceso, no al final, lo que comprime la información de forma lossy. Prefiere que los agentes mantengan un estado detallado y que la humanización ocurra solo en la frontera donde el humano consume la salida. Los repos virales son un 'bug report' que señala hacia el futuro correcto.
Cada otro sistema que construimos funciona al revés: las bases de datos no almacenan datos en el formato que muestra un panel, los compiladores no hacen su IR agradable de leer, las APIs no intercambian resúmenes amigables.