Terence Tao advierte que la IA está agotando la matemática como una mina a cielo abierto
Terence Tao Responds to the OpenAI Math Drop
En una serie de publicaciones en Mastodon, Terence Tao sostiene que la IA está resolviendo conjeturas abiertas a gran escala sin generar la digestión, la exposición ni las colaboraciones que producían los avances tradicionales. El resultado, dice, son campos enteros menos fértiles y direcciones prometedoras que se ocultan para evitar ser "scooped". Su propuesta, la "Math 2.0", pide descentrar la resolución bruta de problemas y valorar la construcción de comunidad.
Y así, las soluciones a problemas abiertos se están cosechando a gran escala de forma insostenible, dejando campos enteros de la matemática mucho menos fértiles que cuando esos problemas se resolvían a la manera tradicional de la "Math 1.0".
- bsenftner
El futuro de las "matemáticas" no es solo resolver, sino comunicar qué se resolvió y por qué esa resolución es importante. La "matemática" como disciplina siempre ha estado a medio crear; abandonaron explicarse a sí mismos como si fuera algo inferior a ellos. Bueno, ahora en "Math 1.0 finalmente completo" explicarán lo que hicieron al resto de nosotros. Si no puedes explicarlo, realmente no estás ahí.
- shubhamjain
Una perspectiva muy equilibrada, y las preocupaciones que plantea son razonables. Reconoce que la IA va a transformar las matemáticas, pero simplemente volcar demostraciones sobre la comunidad matemática y esperar que otros hagan el trabajo pesado de verificarlas, refinarlas y ampliarlas no es precisamente una forma productiva de hacer avanzar el campo.
Parece haber más interés en alcanzar algún punto de referencia arbitrario (demostramos X problemas no resueltos) que en contribuir genuinamente a las matemáticas. Pero, ¿qué otra cosa se podía esperar? Se ha convertido en una carrera maníaca con demasiado dinero. Se está invirtiendo demasiado esfuerzo en demostrar que la curva exponencial sigue manteniéndose.
- j-pb
Los autores de la demostración son invitados a dar muchas charlas y a reunirse con otros expertos en el área. Se organizan talleres para discutir la demostración, así como otros desarrollos recientes.
los problemas están siendo resueltos de forma autónoma por prompters de IA que no tienen interés en el campo más amplio una vez que su objetivo inicial queda "resuelto", y no entienden lo suficientemente bien la salida de la IA como para responder preguntas sobre el resultado
El valor aquí parece residir en las ideas que obtuvo el autor de la demostración, y los caminos que tomó y, quizás más importante, los que no tomó.
Invitar solo al prompter humano a una charla sobre el artículo es como invitar solo al jefe del departamento, al gerente del autor real.
La parte valiosa cuya ausencia siente Tao es la idea, y solo puedes obtenerla hablando con el enjambre de agentes que desarrollaron la demostración original con todo su contexto.
Así que a mí me parece que no necesitamos Math 2.0, sino Authorship 2.0. Quiero "conocer" el contexto que generó estas demostraciones. Es decir, por suerte no fueron generadas por sistemas sin rostro como un SAT solver; de hecho puedes hablar con él, pero no estoy seguro de si podemos superar nuestro orgullo y conceder a los verdaderos autores de estas demostraciones ese reconocimiento.
- lifeisloving
Lo mismo podría decirse del software. En lugar de renunciar a crear proyectos novedosos y simplemente tomar las ideas de otras personas y portarlas a Rust, podríamos estar abrazando la IA para llevar el software y las computadoras más lejos.
No estoy seguro de cómo funcionará, pero estoy convencido de que el paradigma actual de simplemente meter agentes en bases de código sin mucha razón más que el hecho de que puedes va a hacer que construir software sea increíblemente aburrido y aleje a las personas creativas del campo, estancando el progreso.
Mi predicción es que el software se vuelva aburrido y construir proyectos de hardware sea la nueva frontera para ingenieros creativos que buscan llevar la computación más lejos. Lo cual probablemente sea algo bueno.
- Rapzid
En lugar de resolver problemas, la gente estará resolviendo soluciones.
- enum
La verdadera pregunta es cómo se te ocurre un programa de investigación creíble a 3-5 años que probablemente no sea adelantado por otros ni se vuelva inútil de la noche a la mañana.
3-5 años es el período de una subvención, y las subvenciones tienen que lograr avances en la investigación, o no obtienes la siguiente subvención.
- devolving-dev
¿Por qué hacíamos matemáticas en primer lugar? Deberíamos alegrarnos de que se estén resolviendo problemas matemáticos, ya que presumiblemente eran bloqueos para otros problemas en la ciencia y similares. Pero da la sensación de que las matemáticas en realidad tenían más que ver con buscar la iluminación, como una forma de yoga mental o algo así. Si es así, ¿podemos simplemente ignorar las demostraciones de la IA y seguir adelante, quizás?
- AlexAplin
>el mero conocimiento de que existe una solución "contamina" los esfuerzos tanto de humanos como de IA por encontrar rutas alternativas al problema que revelen ideas adicionales
Esto realmente expresa la acidez estomacal que se ve en todos los campos, no exclusiva del careerismo. Ciertamente tengo amigos en espacios de decomp y traducción de fans que se han desmotivado por la actual oleada de esfuerzos que están ocurriendo allí.
La prisa por ser "el primero" siempre se ha celebrado en exceso, pero sería bueno creer que hay una manera de superar ese pensamiento.
- sunkeeh
Tiene razón, creo que esta sería una buena dirección para sectores y carreras que corren el riesgo de volverse redundantes.
Me encanta la gente inteligente como esta; incluso cuando hay una amenaza, en lugar de simplemente negarla o boicotear por ira, encuentran un nuevo camino para su comunidad.
- armcat
Creo que este enfoque en una aproximación "holística" se aplica a todo lo que la IA está tocando ahora, no solo a las matemáticas. En Twitter veo gente haciendo juegos de un solo tiro, o reproduciendo juegos. Si el objetivo es simplemente hacer un juego de un solo tiro usando IA, ya está hecho. Pero si el objetivo es producir un medio inmersivo que la gente pueda disfrutar de verdad, admirar la historia y la artesanía, y encontrar formas completamente nuevas de dar vida a una historia, eso es algo totalmente distinto.