Terence Tao: la IA está creando una era de abundancia de pruebas en matemáticas
Terence Tao: Math 2.0 [pdf]
Terence Tao sostiene que la IA ha convertido las matemáticas en un campo especialmente propenso a la disrupción: las pruebas son verificables objetivamente, digitalizables y cuentan con enormes bases de datos. Ya no escasean las soluciones, sino que entramos en una era de abundancia de pruebas. Tao advierte que seguir optimizando solo la resolución de problemas daña la salud de la disciplina y propone 'Math 2.0': usar la IA para ampliar la frontera del conocimiento y recentrar el papel de la comprensión humana.
El principal cuello de botella para lograr 'Math 2.0' no es la tecnología, ni siquiera la cultura institucional. Es la imaginación.
- fnordpiglet
Parte de esto se siente a veces como un proceso público de duelo frenético. Algunas de las racionalizaciones son bastante forzadas, y la búsqueda de poner el mundo en un orden definido raya en lo obsesivo.
No sabemos a dónde llevará o se asentará este avance tecnológico, así que es absurdo intentar establecer un paradigma funcional en este punto. Es como cualquier sistema: las condiciones iniciales pueden ser extremadamente caóticas e imposibles de modelar, pero con el tiempo a menudo emerge un estado estable. Sin embargo, el estado estable es imposible de identificar a partir de las primeras condiciones iniciales.
Sé que mucha gente siente esto; para torturar otras metáforas físicas, la sensación de jerk: la aceleración de la aceleración. Es una sensación desagradable y desubicadora. Un mundo que se sentía seguro y estable de repente ya no lo es, y no en el sentido de una microtragedia sino en el de una realineación global. Esto les ocurrió a los trabajadores de fábricas que habían disfrutado de generaciones de trabajo estable, y a los agricultores más lentamente y con la misma certeza.
Esto es lo que se siente en las etapas finales de la escasez. El trabajo de diversos tipos se devalúa rápidamente. Nuestro intercambio de cupones de comida y salud por esfuerzo se resquebraja, y la gente se da cuenta de que su trabajo no era divino como nos dijeron los grandes libros, sino que simplemente se necesitaba a falta de una alternativa. La constatación de que nuestros trabajos podrían ya no ser valorados, y que nuestro sentido de propósito se tambalea, junto con el hecho de que hemos atado la mera supervivencia a nuestro esfuerzo laboral, es mortalmente angustioso. No es de extrañar que la gente esté de duelo públicamente.
Pero quizá nuestro propósito no sea esforzarnos? Quizá hayamos […]
- dekhn
Trabajo en descubrimiento de fármacos e IA y su diapositiva sobre medicina contra el cáncer no está muy bien informada. Tenemos modelos y narrativas sobre cómo funcionan los fármacos, pero son lamentablemente incompletos.
Le pregunto a casi todos los médicos/investigadores del campo médico: si tuvieras un fármaco creado por IA que mejorara enormemente los resultados del tratamiento del cáncer para tu paciente, ¿dudarías en recetarlo porque nadie entendía cómo funcionaba? Todavía no he oído un "sí, dudaría"; la mayoría dice "sería cruel negarle a una persona un tratamiento que funcionaba".
Creo que Tao se está centrando demasiado en los efectos de segundo orden de la IA en las matemáticas y otros campos; los humanos somos terribles razonando sobre efectos de segundo orden, especialmente los que ocurren dinámicamente, en tiempo real, usando los modelos matemáticos más avanzados que el mundo ha creado hasta ahora.
- squidmaster
> Antes de inyectarte este cóctel en el torrente sanguíneo, ¿querrías saber que hay al menos un investigador humano del cáncer que entiende el mecanismo detrás de esta cura?
Tao se está saliendo de su ámbito; muchos medicamentos no tienen mecanismos comprendidos. Ni siquiera tenemos claros los mecanismos detrás de la anestesia general; ¿quieres prescindir de ella cuando los médicos te abren para extirparte los tumores?
- samuelknight
Las diapositivas 12 y 13 resumen mis conclusiones de las más de 100 reacciones a más de 100 soluciones del 8 de octubre. Varios informaron que el lanzamiento de OpenAI incluía respuestas que ponían punto final a problemas en los que habían estado trabajando durante años. Varios dijeron que tienen que reescribir por completo solicitudes de subvención que acababan de enviar. Otros describieron enterarse de las soluciones a problemas en los que trabajaban como perder a un viejo amigo o a un amante. El sentimiento general era lamentar la pérdida de un campo, como si hubiera sido mejor nacer a principios del siglo XX y concluir su trayectoria profesional antes de llegar a este punto. Mi conclusión es que el campo necesita meterse en la cabeza que sus viejos problemas ya no son ambiciosos, y que su trabajo a corto plazo es encontrar la nueva frontera.
Una idea que conjetura Terrance Tao, que es muy dudosa, es que pulsar el botón de la IA resolverá problemas abiertos sin producir nuevos métodos perspicaces. Pero el lanzamiento de OpenAI parecería refutar esto. La prueba sub O(nlogn) para DFT, por ejemplo, violó suposiciones humanas muy antiguas. Décadas de trabajo en el campo fueron progreso incremental sobre un método subóptimo que nadie cuestionó con suficiente dureza. De manera más general, siempre deberíamos poder volver a una IA superhumana y decirle: "Ataca este problema, pero no uses un método ya probado".
- theturtletalks
Acabo de ver el vídeo de Primeagen sobre esto y el punto de Tao es que los juniors ya no tienen el camino de resolver una prueba para ganar medallas Fields. También argumenta que la parte comunitaria se está viendo perjudicada por la IA que descubre pruebas, porque en el pasado la gente solía recibir invitaciones para hablar y colaborar. Ahora todo eso se está quitando. La comunidad debe adaptarse porque la caja de Pandora no se puede cerrar.
Prime también mencionó que el desarrollo de software es diferente. En el desarrollo de software, el producto es aquello hacia lo que estás construyendo, así que los medios para llegar allí pueden verse perturbados sin que la industria sea canibalizada.
En la investigación matemática, el proceso es el producto. Quitas la parte de investigar y no queda mucho. Pero mi pregunta es: estas pruebas matemáticas que publicó OpenAI, ¿cambiará la matemática hacia usar realmente las pruebas para cambiar el mundo en lugar de solo encontrar nuevas?
- gste
> Usar la IA para encontrar y destacar nuevos principios, métodos o ideas, en lugar de meramente nuevas pruebas.
Habría asumido que, al producir nuevas pruebas, la IA ha validado principios existentes o ha descubierto nuevos. ¿No vale la pena estudiarlo?
¿Se quejan los matemáticos de que revisar las pruebas de la IA no es tan divertido como escribir las tuyas propias? ¡Intenta ser programador... bienvenido a nuestro mundo!
Si la IA carece de imaginación y no descubre nuevos principios, entonces nos está haciendo un favor: está tachando los problemas que no necesitan nuevos principios. Así que los problemas/conjeturas que quedan son los más interesantes.
- alecst
Dejando de lado la cuestión del cáncer: sigo sin entender cómo TT parece obsesionado con lo que los modelos pueden hacer hoy en lugar de mañana. Es realista e incluso concebible que los modelos también mejoren a la hora de explicar y presentar pruebas. Quizá no esté emocionalmente preparado para aceptar que puede que no haya un futuro en el que sus habilidades (y hasta cierto punto, las mías) sean relevantes y valoradas. Me rompe el corazón. Espero equivocarme, pero parece que nos hemos quedado sin terreno más elevado al que huir.
- math_dandy
De la diapositiva Beyond Problem Solving:
"Alcanzar estos faros [resoluciones de problemas abiertos] prematuramente mediante herramientas automatizadas puede interrumpir la exploración de los caminos no tomados, y esterilizar el campo circundante".
Esta cuestión crucial se centra en la psicología del matemático y la estructura de incentivos de las matemáticas académicas/institucionales en todo el mundo. Para que las matemáticas florezcan en el futuro, tendremos que reajustar nuestros cerebros para pensar de manera diferente sobre la naturaleza del progreso matemático. Y necesitamos reorientar nuestras estructuras de incentivos institucionales hacia la promoción del propio progreso matemático significativo en lugar de apuntar a proxies que ya no son fieles.
Independientemente de la naturaleza precisa o las causas de la "esterilización" a la que se refiere Tao, nosotros (la comunidad matemática) solo podemos contar con nosotros mismos para repararla. Aunque, dado que implicará un cambio fundamental a nivel de instituciones académicas osificadas con muchos actores e intereses creados divergentes, cualquier reparación de este tipo será lenta, frustrante, controvertida y sin ninguna garantía de éxito.