La IA escribe peor para los humanos porque prioriza la densidad de información
Why is AI generated language so hard to understand?
Un estudio analiza por qué el texto generado por IA cuesta más de leer: los modelos usan más sujetos inanimados con verbos animados, n-gramas poco frecuentes, dependencias sintácticas largas y sustantivos apilados que la escritura humana. Los autores sostienen que el lenguaje humano está optimizado para comunicar, mientras que la IA lo está para tareas como matemáticas, código y razonamiento, donde prima la densidad de información. Lo comprueban ajustando un modelo con una penalización de longitud, que lo aleja del comportamiento lingüístico humano.
Mientras que el lenguaje humano está optimizado para una comunicación exitosa, el texto generado por IA está cada vez más optimizado para otros objetivos como las matemáticas, el código y el razonamiento, en los que existe una presión hacia la densidad de información en lugar de hacia la comunicación exitosa.
- dividefuel
Como redactor técnico, creo que las respuestas por defecto de la IA están optimizadas para lo que la gente _cree_ que es buena escritura, en lugar de lo que realmente lo es.
Mi conjetura es que son años de RLHF optimizados para las primeras impresiones de los evaluadores sobre lo bien escrito que estaba algo. ¡Usa listas! ¡Tiene encabezados! ¡Usa frases divertidas como 'smoking gun'! ¡Es largo e informativo! Estas cosas son relativamente rápidas y fáciles de identificar y seleccionar como preferencia.
Pero nada de esto cubre realmente si la respuesta es _útil para la audiencia_. Si no eres tú la audiencia, puede ser difícil distinguir qué es útil y qué no.
- cryzinger
Una construcción que me sorprende que el artículo no mencione (aunque, para ser justos, seguro que tenían un montón de opciones entre las que elegir... y hay que poner el límite en algún sitio :P) es que a los LLM les encanta usar verbos transitivos de forma intransitiva[0], de una manera que casi nunca veo en la escritura humana. En el mejor de los casos hace que las frases sean extrañamente ambiguas; en el peor, las vuelve rayando en lo incomprensible, y resulta especialmente molesto en contextos técnicos donde el lenguaje preciso debería ser innegociable. O sea, sí, puedo hacer una conjetura fundamentada sobre lo que intenta decir, pero si tu supuesta documentación requiere que los lectores/usuarios hagan conjeturas fundamentadas, entonces algo ha salido terriblemente mal.
[0] Un ejemplo sería algo así:
"The user presses a button, and the form submits."
Hay usos intransitivos válidos de "submit", pero ninguno que tenga sentido en este contexto. En este caso "submit" o bien requiere un objeto (como "the form submits data" —y quizá un objeto indirecto, como "the form submits data to the server") o debería sustituirse por "the form is submitted" si de verdad no quieres proporcionar un objeto.
- lukev
Los LLM nos están mostrando que gran parte de lo que consideramos cognición es en realidad parte del elaborado sistema simbólico que es el Lenguaje, en lugar de una propiedad de la "mente" (ya sea instanciada biológica o artificialmente).
El texto generado por LLM es difícil de entender porque, aunque es lenguaje perfectamente válido que sigue patrones cognitivos e informativos válidos, no refleja la intención ni el modelo mental de otra mente.
- anigbrowl
Considera también que los corpus de entrenamiento de la IA incluyen enormes cantidades de lenguaje comercial diseñado para adormecer las facultades críticas y provocar acción; asimismo incluyen numerosos artículos de opinión, que están diseñados para persuadir y a menudo se apoyan en falacias retóricas, ya sea cínicamente o como reflejo del imperfecto proceso de pensamiento de un autor.
- orbital-decay
Como de costumbre, la mayoría de los comentaristas responden a los titulares, así que cito sus conclusiones.
>Tomamos estos resultados como una prueba de concepto de que una penalización por longitud usada durante el aprendizaje por refuerzo con GRPO puede afectar directamente a rasgos gramaticales. Señalamos que al modelo no se le instruyó directamente a usar un lenguaje comprimido o denso, ni se le dio directamente información sobre la disponibilidad de alternancias sintácticas. Más bien, la penalización dio lugar a una preferencia emergente por miembros más cortos de las alternancias sintácticas. [...] Especulamos que el uso de recompensas verificables crea un entorno donde la corrección se desacopla de la comunicación similar a la humana, lo que lleva a los modelos a converger hacia una distribución novedosa y potencialmente menos comprensible del uso del lenguaje.
Esto suena a sentido común para cualquiera que haya trasteado con los modelos y el entrenamiento, pero aun así alguien tiene que cuantificarlo, así que está bien que lo hayan hecho. También quiero señalar que esto solo es visible en el registro por defecto de Claude; sigue siendo capaz de escribir de forma distinta cuando se le pide.
- noosphr
El texto generado por IA no tiene un modelo subyacente de la realidad física centrado en lo humano y, como resultado, sus metáforas son torturadas.
Si tuviéramos ciempiés parlantes, los resultados probablemente serían similares, pero por razones distintas.
- lxe
https://gist.github.com/lxe/4cd2ca0fd3b714b25f138227c8c650d3
He estado iterando sobre este prompt de claridad de escritura. El término que se nos ocurrió fue "Parataxis asindética con elipsis referencial y cierre retórico repetido". No describe del todo el problema exacto que tengo con la escritura de la IA moderna, pero se acerca.
- bassie123
Es porque la IA no se optimizó para la lectura humana, se optimizó para la mayor cantidad de información en la menor cantidad de contexto o tokens posible.
(p. ej., "baseline system state transition latency validation") en lugar de desglosarlos con preposiciones ("validating the latency of state transitions in the baseline system").
En mi caso, no puedo leer libros en absoluto, porque olvido lo que se dijo dos párrafos antes. Apuesto a que la gente que es buena escaneando texto tiene menos problemas con el texto generado por IA.