Investigadores de IA debaten qué tan cerca estamos de la automejora recursiva
AI researchers debate how close we are to recursive self-improvement
John Schulman, Beren Millidge y Charlie O'Neill analizan si la IA alcanzará la automejora recursiva. Millidge señala que la brecha sim-to-real y la falta de aprendizaje continuo podrían impedir la generalización. Schulman describe ciclos de entusiasmo y decepción, mientras O'Neill advierte que el paradigma actual de transformers y RL podría no descubrir la próxima discontinuidad. El debate explora si la IA superará la investigación humana o si se estancará antes.
La única esperanza realmente es si el deep learning simplemente no puede llevarnos a una IA que al menos domine la investigación y el desarrollo humanos, incluida la capacidad humana de idear nuevos paradigmas y demás.
- bretpiatt
Por lo que estoy experimentando, tenemos una automejora recursiva que puede encontrar máximos locales; no veo evidencia realmente sólida de una RSI no guiada que encuentre el óptimo verdadero.
- reilly3000
He desarrollado una RSI altamente personalizada, local y offline al hacer scroll por demasiados artículos sobre IA. Está mayormente en mi pulgar derecho.
- killbot5000
¿Alguien puede definir "mejora" en este contexto? De lo contrario, este concepto se siente como una palabra de moda.
- anoplus
La IA debería optimizarse para hacer que todos los humanos estén sanos, felices y seguros sin excepción.
- carabiner
¿Alguien sabe el estado del trabajo de John Carmack en AGI?
- preommr
¿Qué importan estas discusiones cuando las palabras no importan?
¿Cuántas veces se ha declarado ya la AGI? Un montón de gente (por ejemplo, Jensen Huang) ha llamado a Astra AGI, por ejemplo.
Los postes de la meta se mueven, todo el mundo está traficando, mintiendo, inventando nuevas palabras de moda, haciendo gimnasia mental, y todo esto es simplemente agotador.
Solo muéstrame los resultados, y que la prueba esté en el pudín.
- eugene3306
Vale, la IA ahora puede escribir un poema o componer una canción.
Pero, ¿puede una IA construir Terminal Bench 5.0 o GDPval 2027?
Sin esto, simplemente no hay camino hacia la RSI.
- deadbabe
La automejora recursiva será en última instancia un problema de dinero. Es una factura muy grande y las empresas de IA necesitan empezar a pensar en cómo acumularán energía barata y gratuita, porque simplemente pagar por cómputo ya no será suficiente. El dinero es el cuello de botella. El futuro requiere empresas que sean post-dinero.