Terry Tao advierte que la IA podría sumir las matemáticas en una era oscura
Will it be a golden age or a dark age for mathematics (and science)?
Francesco Maggi, en un post invitado en el blog de Terry Tao, plantea dos escenarios para la ciencia con los LLM: una edad dorada si se integran con criterio, o una edad oscura donde la producción científica crece pero el conocimiento se vuelve ajeno a la comprensión humana. Analiza el papel de Lean, la matematicación como acto creativo irreductible a la demostración, y por qué el avance matemático no se mide tachando problemas de una lista.
La oscuridad real aquí sería que el conocimiento se volviera ajeno a la comprensión humana.
- dualvariable
Creo que estoy un poco del lado de la "edad de oro" de la cuestión.
La math slopocalypse no es útil si no se puede convertir en matemáticas que puedan enseñarse a humanos reales encontrando los principios unificadores subyacentes.
Todos esos resultados O(n log(n)^(1-delta)) sugieren que probablemente hay un "truco" unificador detrás de todos ellos y que va a haber un límite superior para delta en cualquier problema. Realmente deberías poder enseñar eso en un libro de texto y luego hacer que cualquier estudiante humano replique cualquiera de los resultados del LLM como problemas resueltos.
Para cualquier cosa que un LLM logre demostrar con miles o millones de líneas de código Lean, probablemente haya una rama de las matemáticas faltante en algún lugar.
Los humanos reales necesitan machacar los problemas y las soluciones generadas por LLM hasta que se les ocurran los principios subyacentes, probablemente usando IA para ayudarles a hacerlo.
Probablemente no llegarás allí simplemente pidiéndole a un LLM que invente una nueva rama de las matemáticas y "no cometas ningún error"; los matemáticos que se vuelvan buenos dirigiendo LLM para buscar principios unificadores, y luego sintetizando (y verificando dos veces) los resultados, probablemente tendrán mucho éxito en su campo.
- jacquesm
Entiendo que Tao es matemático ante todo y respeto el hecho de que se mantenga 'en su terreno' (no escribió la publicación, pero la publicó en su blog). Pero creo que sería justo extrapolar y preguntarse sobre esta cuestión no solo para las matemáticas sino para toda la ciencia. Ten en cuenta que el conocimiento científico puede acapararse o usarse para patentar cosas y que hay muchas pruebas de que OpenAI, Anthropic y posiblemente otros van a ir tras otras fuentes de ingresos[1] además de vender acceso a sus motores de inferencia de IA.
Puedo imaginar un futuro en el que estas empresas se conviertan en los nuevos Zaibatsus[2] que posean patentes en una amplia variedad de temas y con silos mutuamente reforzados de tecnología propietaria creada por IA interna que el resto del mundo financió pero a la que no tiene acceso.
[1] Por ejemplo: https://www.reuters.com/world/anthropic-quietly-sets-up-biol...
- ttul
Mi lectura de los comentarios recientes de Terence Tao es que a los matemáticos profesionales les molesta principalmente que los artículos de matemáticas enviados por IA carezcan del tipo de contenido didáctico amplio que ofrecen los artículos de matemáticas humanos de alta calidad. Aunque la respuesta pueda ser correcta, los artículos de matemáticas de IA no enseñan al lector de la manera en que lo haría un autor humano. Las matemáticas profesionales no consisten solo en resolver problemas; consisten igualmente en difundir el conocimiento para que otros programen sus cerebros humanos con la misma comprensión que tenía el autor del artículo cuando lo escribió (y logró el resultado).
En otras palabras, la crisis en las matemáticas (según mi lectura) es que la IA puede resolver sin enseñar. El resultado puede ser impresionante, pero si los únicos seres que pueden hacer avanzar las matemáticas en el futuro son máquinas trabajando incansablemente en miles de millones de escenarios que ningún humano tendría la paciencia de emprender, esto deja a los profesionales preguntándose cuál es su lugar en todo esto.
- itsalwaysgood
Todos estos son grandes puntos, pero también señalaría que el escenario de la 'edad oscura' es un escenario altamente competitivo, mientras que el escenario de la 'edad de oro' es uno altamente colaborativo.
No creo que la tecnología se desvanezca en ninguno de los dos escenarios. En el escenario altamente competitivo de la 'edad oscura', todavía tendrás a aquellos que 'entienden lo que se produce' buscando progreso y avance. Se agruparán con quienquiera que sea la organización que produzca los mejores resultados, más validados.
No creo que el conocimiento se vuelva ajeno a la comprensión humana, simplemente se volverá a concentrar altamente como lo estuvo en el pasado. En el pasado, solo los ricos y nobles podían permitirse dedicar tiempo a la educación.
Y, por lo general, aquellos que se adentraban en cualquier campo y aportaban contribuciones a la ciencia eran los que tenían tiempo para dedicar vidas enteras al estudio o la búsqueda del conocimiento. Todavía tenemos estos problemas hoy, y estos problemas siempre estarán presentes.
Hay una cadena de suministro de la economía, y proporcionamos diferentes recompensas según el valor de lo que se produce. Los trabajos nunca desaparecen, el deseo de prestigio, la codicia, etc., nunca desaparecen. Es la razón por la que existen las economías, y es la razón por la que todos están considerando el valor de los LLM, y su lugar en las economías y en las academias (que presumiblemente existen para avanzar en la comprensión/apreciación humana, pero también para preparar a las generaciones más jóvenes para el trabajo futuro).
- odyssey7
Obviamente una edad de oro.
Ya no estoy amargado por esto — ha pasado mucho tiempo. Pero la historia tiene algo.
En su momento, sabía que tenía talento para las matemáticas y quería seguir una carrera investigadora. Para una clase de investigación de primer año, elegí un problema que estaba intencionalmente fuera de mi zona de confort y se me ocurrieron algunas ideas interesantes. No era de calidad publicable, aunque el curso realmente no esperaba publicaciones.
Plantear el problema de manera que pudiera resolverse con cálculo resultó ser una idea clave. Recurrí a Wolfram, ya que las integrales estaban más allá de lo que yo como estudiante de primer año podría haber hecho por mi cuenta, y entendí que la idea que produjo la solución era mi trabajo original. No creo que nadie en la clase podría haber hecho esas integrales. El propio instructor no podía decirme qué tenían de malo, si es que tenían algo. Sin embargo, no se mostró impresionado y fue sutilmente despectivo o crítico.
Hoy, podría haber estado en la ola de investigadores que desarrollan IA para el trabajo matemático. El instructor podría haber estado orgulloso de moldear las matemáticas a través de su mentoría. La universidad podría haberme invitado a dar charlas. En cambio, terminé dejando las matemáticas como campo por completo. Ahora escribo software para un banco.
El mundo es tan rico como lo hacemos. No dejes que tus oportunidades y tu potencial expiren. Abraza los materiales que están disponibles para trabajar, o alguien más lo hará y te superará en competencia y habrás perdido el momento.
Entiendo que hay una idea romántica de [...]
- ldng
Apuesto por una breve edad de oro en la que la IA cosechará los frutos fáciles de la referenciación cruzada y la inferencia (fáciles para una computadora). Y luego una edad oscura en la que nadie esté interesado en publicar nuevas ideas en el campo. Espero equivocarme.
- grandpajoey
La autoría y el crédito parecen anti-patrones en matemáticas. Una de las partes menos accesibles de las matemáticas para mí es que literalmente todo lleva el nombre de personas. ¿Navier-Stokes? ¿Quién? Sinceramente, no quiero saberlo, preferiría que las ideas y la información se enmarcaran con una priorización hacia la comprensión, no hacia la reputación del autor. Siento lo mismo por toda la notación griega, es 2026, ¿no podemos usar algo de circulación regular para ampliar la audiencia?
Quizás la IA pueda mejorar drásticamente esta situación al cerrar la brecha entre los "del club" y aquellos que quieren hacer algo útil con las ideas matemáticas.
- nestorD
Algunas ideas excelentes, muchas de las cuales se extienden más allá de las matemáticas.
Una en particular, sobre compartir secretos, que no se me había ocurrido (he descubierto que prácticamente nadie marca la casilla "no entrenar con mis datos"...):
> Del mismo modo, parece que los matemáticos ya están preocupados y cautelosos sobre lo que escriben en las declaraciones de investigación y las propuestas de investigación. Después de todo, un administrador o un revisor puede cargar esos documentos en un LLM para obtener ayuda para escribir un informe, comprometiendo así potencialmente la confidencialidad de la investigación no publicada.