DoGBench: ningún agente de IA supera el 50% al escribir documentación para usuarios

DoGBench: The first user-facing docs generation benchmark. No model scores >50%

DoGBench: ningún agente de IA supera el 50% al escribir documentación para usuarios

DoGBench evalúa si los agentes pueden reconocer cuándo la documentación necesita actualizarse y producir cambios que cumplan estándares expertos. Con 292 tareas extraídas de proyectos reales como Helm, PostHog y Mautic, el mejor puntaje combinado en el conjunto de 117 ítems fue 47.3 sobre 100. Una auditoría de 1,267 envíos reveló que el 45.5% tenía lagunas para completar tareas y el 36.6% contenía inexactitudes técnicas.

Los agentes de IA pueden escribir documentación pulida, pero a menudo pasan por alto lo que los lectores necesitan para completar una tarea.

Más de este día

2026-10-02