La avalancha que arrasó con las matemáticas ya viene por el desarrollo de la IA
The avalanche that hit math is coming for AI development
Dwarkesh Patel cambió radicalmente su pronóstico: donde antes veía una década hasta la superinteligencia, ahora cree que faltan un par de años, quizá meses, para que la IA iguale a los mejores investigadores humanos en su propio campo. Se apoya en datos como el informe de METR sobre Anthropic, que duplicó su ritmo de progreso gracias a la IA, y en el salto de los modelos en matemáticas, capaces ya de resolver un problema del Milenio en 88 horas. Estima 2028 como año mediano, con un 25% de probabilidad de que se retrase más allá de 2032.
Los sistemas de IA actuales han resuelto un problema del Milenio, todo sin la capacidad de plantear preguntas poderosas ni de encontrar profundos campos nuevos de investigación matemática.
- mentalgear
Está llegando para todos: hay una startup que presentó brazos robóticos que prometen aprender cualquier cosa en un solo intento: si eso se sostiene —y hay poco margen para un solo intento— sería un buen indicador de que el trabajo manual también desaparecerá pronto.
La única pregunta que queda es si el 99,9% de la población mundial se dejará engañar por la UBI y la VR para mantener a las masas contentas, mientras el 0,1% concentra toda la riqueza y el poder de la IA.
Y esto se decide ahora, porque es demasiado tarde una vez que la IA se consolide bajo uno o dos multimillonarios (o billonarios).
- throw-away-mle
Trabajo como ingeniero de investigación en una empresa de Alphabet, y llevo casi 15 años en la industria. Estoy en la misma situación que Dwarkesh. He visto cosas que me han impactado absolutamente en los últimos dos meses. Un equipo de agentes reescribiendo desde cero un modelo en el que se habían invertido muchos años de I+D, superando al original en solo unos días. Un agente al que cualquiera en la empresa puede simplemente enviarle un mensaje con un id de experimento y decirle 'mejora esto', y vuelve unas horas después con unos 20 problemas, habiendo examinado los pesos del checkpoint y los pasos de gradiente.
Estos agentes conocen todos los papers, todos los trucos, tienen instintos increíbles y pueden programar 20 ablaciones y ponerlas en marcha antes de que termines tu trayecto al trabajo. Encuentro que guiarlos es cada vez menos útil. Nunca había sentido mi obsolescencia acercándose tan rápido como ahora.
- aabajian
Creo que el siguiente paso para los desarrolladores es combinar tecnologías existentes. Por ejemplo, en el campo de las imágenes médicas hay miles de algoritmos publicados que se implementaron una vez (por el investigador que publicó el paper), pero nunca se usaron. Ahora la IA puede leer el paper e implementarlo en un solo intento. Me pregunto si habrá avances por combinar dichos algoritmos.
- zarzavat
Si la IA es un dominio verificable, ¿cómo haces que las IA construyan benchmarks para aplicárselos a sí mismas?
Parece que los únicos benchmarks que podrían construirse automáticamente son los de tareas que son en sí mismas verificables (demostración de teoremas, programación, etc.).
Las tareas no verificables requieren que los humanos definan qué es exactamente un buen trabajo.
La hipótesis de la RSI depende del supuesto de que el progreso en tareas verificables se generaliza a tareas no verificables.
- lavendermon
Lo que me parece fascinante de las predicciones sobre IA es la naturaleza humana que reflejan. Parece haber dos bandos: el primero incluye al autor de este ensayo, gente que empieza a creer que capacidades desconocidas aún inexistentes pronto serán posibles y son imposibles de predecir. Este bando parece estar ganando cada vez más gente debido a que incógnitas anteriores se resolvieron muy rápidamente. Por lo tanto, la creencia ha ido aumentando en este grupo de que la AGI y otras grandes cuestiones de la IA, como la pérdida masiva de empleos humanos, no están muy lejos.
En el otro extremo vemos a quienes todavía quieren evidencia y posponen sus predicciones sobre IA a un futuro más lejano señalando las limitaciones actuales. Este grupo parece mover la portería según convenga para apoyar su argumento con cada nuevo avance. Como señaló el autor del artículo, él pasó de este bando al primero. Yo también me he pasado al primero.
- jcmontx
He llegado a la conclusión de que lo único para lo que sirven los LLM es para escribir código y SOLO destacarán en cosas que puedan resolverse escribiendo código.
Todo ese alboroto sobre los problemas matemáticos resueltos era solo LLM escribiendo código Lean. Y aparte de eso, los agentes no tienen nada que ver con los humanos en términos de comportamiento y responsabilidad. Son como niños tontos con mucho conocimiento.
Creo que la IA no viene por todos los trabajos de cuello blanco, solo viene por los trabajos que pueden resolverse con código.
Se puede argumentar que podrán hacer cirugía cerebral escribiendo código que ejecute instrucciones en un brazo robótico con bisturí. Solo el tiempo lo dirá.
Perdón por el rollo, solo estoy vomitando mis pensamientos.
- j2kun
¿Qué ha hecho este autor que sugiera que deberíamos escuchar su opinión?
- Dzugaru
No se trata solo de si es verificable o no. También se trata de qué tan alto cuelga la fruta frente a lo buena que es tu escalera (heurística de búsqueda). Las cosas NP son fácilmente verificables, por ejemplo.
Es absolutamente plausible que esta avalancha matemática haya sido de 1 cm de profundidad, y que los problemas más difíciles no sean resolubles sin nuevas teorías matemáticas que deben construirse con mucha comprensión y gusto (heurística humana).