Investigadores de IA debaten qué tan cerca estamos de la automejora recursiva
AI researchers debate how close we are to recursive self-improvement
John Schulman, Beren Millidge y Charlie O'Neill analizan si la IA alcanzará la automejora recursiva. Millidge señala que la brecha sim-to-real y la falta de aprendizaje continuo podrían impedir la generalización. Schulman describe ciclos de entusiasmo y decepción, mientras O'Neill advierte que el paradigma actual de transformers y RL podría no descubrir la próxima discontinuidad. El debate explora si la IA superará la investigación humana o si se estancará antes.
La única esperanza realmente es si el deep learning simplemente no puede llevarnos a una IA que al menos domine la investigación y el desarrollo humanos, incluida la capacidad humana de idear nuevos paradigmas y demás.