El peligro de rendirse al agente: cuando dejamos de pensar
Resisting Cognitive Surrender
Kunal analiza la «rendición cognitiva»: aceptar sin pensar lo que producen los agentes de IA. Es rápido y seductor, pero genera decisiones subóptimas, deuda técnica y una familiaridad cada vez menor con el sistema. Propone fijar un «vibe limit» —la complejidad que podemos asumir con confianza—, priorizar dónde delegar y dónde implicarse, y forzar la comprensión con revisiones guiadas, depuradores y explicaciones de los propios agentes.
Al final del día, yo soy responsable y rindo cuentas por lo que construyo, no los agentes. Ceder la agencia y no pensar me deja como responsable sin una propiedad significativa.
- hypfer
La parte más difícil de los LLMs y los agentes parece ser —sorprendentemente— los humanos. En concreto, los humanos y sus disfunciones. Su fragilidad. Su ego atado a cosas.
Esta es una excelente publicación/reflexión sobre el tema del uso individual de LLMs.
El único hueco que veo es que asume que uno trabaja en algo solo y no en equipo. Aunque eso quizá sea otro ensayo en sí mismo.
Edit: Resulta que la nota al pie 3 ya lo menciona. Bien. Buen post
- tra3
Gran post. Me gusta especialmente la idea de la vista de PR en 4 columnas. He construido algo similar para revisar especificaciones de speckit. El andamiaje para asegurar que el código realmente funcione también tiene sentido.
Hay una cosa que me molesta, sin embargo: todas estas cosas nos tienen consumiendo lo que producen los LLMs. Yo aprendí e interioricé cómo funcionaban las cosas construyendo sistemas. Al menos dentro de las restricciones de las abstracciones que estaba usando. Esto me hace pensar en TikTok y los shorts. Todo el mundo solo mira. Aunque quizá eso no sea caritativo. Quizá la abstracción ahora ha cambiado de un "os/gui/event loop" a "llm" y el resto es solo complejidad accidental.
- gus_massa
>> Una ironía más seria es que el sistema de control automático se ha puesto en marcha porque puede hacer el trabajo mejor que el operador, y sin embargo se le pide al operador que supervise que esté funcionando eficazmente.
El control automático es bueno para el caso estándar y los errores esperados. Para casos raros, por ahora los humanos son mejores para detectarlos y pulsar el gran botón rojo.