La IA aún no puede investigar por sí sola: el auto-mejoramiento recursivo tendría que esperar
AI recursive self-improvement might not come so quickly after all (August 2026)
Un estudio de Princeton y otras instituciones evaluó a agentes de IA con "shadow evaluation": debían producir un paper digno de NeurIPS 2026 a partir de investigaciones inéditas. Aunque dominaron la ingeniería —revisaron literatura, corrieron cientos de experimentos y compilaron resultados—, los artículos fueron rechazados por los autores originales. Los agentes carecieron de creatividad y criterio para la investigación abierta: eligieron hipótesis prometedoras pero las descartaron con datos mínimos y no supieron replantear su enfoque. El hallazgo cuestiona los plazos optimistas del auto-mejoramiento recursivo.
Hay una cierta ausencia de creatividad valiosa e intuitiva en los sistemas de IA actuales, y aunque son ingenieros extraordinariamente capaces, parecen tener una cierta propiedad de pensamiento mecánico y formulaico que podría impedirles ser buenos investigadores.
- smackeyacky
¿Cómo pueden estos modelos hacer algo cercano a la RSI cuando ni siquiera pueden verificar su propia salida? Gemini, por ejemplo, está tan confiadamente equivocado aproximadamente el 30% de las veces en ciertas tareas para mí. Le digo que su respuesta está mal y suelta un mea culpa, pero vuelve a equivocarse en poco tiempo. Siento que la industria de la IA todavía está exagerando enormemente sus proyecciones.
- daavidhauser
Opus 4.8 más OpenClaw. Siento que el espacio se mueve tan rápido que el resultado con esta configuración dice muy poco sobre lo cerca que estamos en realidad ahora.
- 0xDEAFBEAD
Tenemos que tener cuidado con el pensamiento ilusorio. La gente va a querer asumir la existencia de una especie de "deus ex machina" que hará que todo esté bien. Prefiero darle la vuelta a la lógica. Si hay alguna probabilidad decentemente alta de que las cosas puedan descarrilarse, deberíamos detener el desarrollo de la IA: https://pauseai.info/
- vessenes
Pues, obvio. Si pudieras hacer esto con Opus 4.8, lo sabríamos. Cuando el sucesor de Astra sea 2-3 veces mejor en investigación matemática, y los equipos internos digan "creemos que llegaremos allí", me inclino a creer a los de dentro.
- dgellow
Enlace al artículo real: https://arxiv.org/abs/2607.27191