Por qué lloran los matemáticos

Puedo identificarme un poco, pero siento que estoy lamentando algo diferente: la pérdida del deseo de buscar la verdad en la tecnología, las matemáticas, etc.

Ya nada se valida ni se prueba. Todo se trata de la forma, la credibilidad o incluso de qué tan fuerte se dice.

Publicaron más de 100 artículos que nadie leyó. Estoy seguro de que los matemáticos los están leyendo ahora, pero incluso este foro ha concluido que estos problemas están resueltos, sin leerlos ni validarlos.

Es como si todos hubieran olvidado "no creas todo lo que lees en Internet". Y hace que la discusión sea muy aburrida cuando todos solo sueltan afirmaciones no validadas, superponiéndolas con creencias fuertes fundadas en afirmaciones igualmente no validadas. Es monótono, sin sustancia y puro ruido.

> "Google Translate es increíble, pero no nos ha enseñado esencialmente nada sobre lingüística", dijo Strogatz. "No entendemos por qué funciona. Simplemente funciona. Eso es la Dimensión Desconocida. Es conocimiento sin comprensión".

Esto no es cierto, y es el quid de un enorme debate que estamos teniendo ahora en muchísimos campos.

La sintaxis chomskiana clásica (que modela las oraciones como árboles de análisis) ha sido enormemente, asombrosamente predictiva de la rica estructura del lenguaje humano del mundo real. Pero olvidamos rápidamente que inventamos conceptos como "palabras" y "sintagmas nominales" específicamente para ayudarnos a analizar y predecir cosas sobre el lenguaje humano. Lo que los LLM y la traducción automática moderna muestran, de manera definitiva, es que hay otra forma totalmente separada de describir estos fenómenos, que es a la vez muchísimo menos descriptiva y también muchísimo más predictiva.

Que parezcan compensarse es desafortunado, pero NO es el caso que "no entendamos por qué funciona". Entendemos absolutamente por qué funciona; si no lo entendiéramos, no podríamos mejorar estos sistemas. Lo que no tenemos es una teoría descriptiva limpia que reduzca esto a algo formalmente especificable y analizable. Pero esas son cosas diferentes, y esta es la raíz de la desconexión entre muchas comunidades que trabajan en y alrededor de estos espacios (lingüistas vs lingüistas computacionales; matemáticos vs matemáticos computacionales; gente de interpretabilidad mecanicista vs empiristas).

Este artículo gira, sin nombrarlo, en torno al concepto de "llevanza de cuentas deóntica" central en el trabajo de Robert Brandom sobre semántica. La idea de que nuestra capacidad de crear y sostener sistemas conceptuales depende del toma y daca de razones dentro de un entorno social. Brandom ha estado en mi mente últimamente porque elementos de su teoría explican tanto por qué los LLM deberían funcionar en principio, como dónde están condenados a ser radicalmente deficientes. Un LLM codifica las regularidades normativas de nuestros juegos lingüísticos/conceptuales en sus pesos, pero no puede ser un participante real en nuestros juegos porque es incapaz de asumir compromisos duraderos o cambiar sus disposiciones con el tiempo.

Vale la pena leer: Robert Brandom, "Making It Explicit: Reasoning, Representing, and Discursive Commitment"

Creo que Thompson no tiene ninguna comprensión de empresas como las matemáticas puras o las ciencias teóricas. En palabras de Einstein: "Quiero saber cómo creó Dios este mundo. No me interesa este o aquel fenómeno, el espectro de este o aquel elemento. Quiero conocer sus pensamientos; el resto son solo detalles".

Creo que los matemáticos no se lamentan por sus costos hundidos perdidos. Ahora son conscientes de que quizás nunca vuelvan a tener la alegría de ser los primeros en levantar el borde de la lona de la ignorancia y ver la verdad cruda debajo _por primera vez_. Sus viajes de descubrimiento, que dan sentido a la vida, puede que nunca vuelvan a zarpar del dique seco.

Sigo pensando que los matemáticos van a ser tan importantes como siempre. Los LLM solo están encontrando lo que era técnicamente posible dado nuestro actual alcance de conocimiento tras resolver problemas por fuerza bruta. Eventualmente se quedarán sin cosas que puedan hacer con su entrenamiento y la única forma de lograr que hagan más será entrenarlos con nuevo conocimiento descubierto por humanos.

Encontrar ese nuevo conocimiento puede ser exponencialmente más difícil, pero será mucho más valioso.

Como ingeniero de software, me cuesta sentir lástima por estos matemáticos. Los ingenieros de software están siendo despedidos debido a los avances de la IA. Los investigadores matemáticos están empleados en universidades, y las universidades no están despidiendo matemáticos ahora que OpenAI ha resuelto algunos de sus acertijos. Los matemáticos aún pueden alimentar a sus familias; los ingenieros de software desplazados por la IA, no. Sin embargo, veo muchos más blogs sobre la difícil situación de los matemáticos, y no suficientes sobre la difícil situación de los ingenieros de software.

Conocimiento sin comprensión sería simplemente obtener "42" y no poder hacer ninguna pregunta de seguimiento.

Pero no creo que sea ahí donde estamos en este momento. Creo que los resultados, las pruebas y los artículos pueden revisarse y entenderse, igual que si un par humano hubiera publicado otro resultado.

También creo que la velocidad a la que ahora se pueden generar resultados no puede ser seguida por nuestra velocidad colectiva para entenderlos, utilizando los métodos a los que estamos acostumbrados.

A medida que entremos en la siguiente fase, donde la IA publique usando mayormente referencias de otros resultados de IA, esto se multiplicará exponencialmente hasta que a cualquier humano le tome décadas verificar un solo resultado a mano de principio a fin.

Estoy de acuerdo en que traducir una frase no te enseña un idioma, y también creo que los traductores son una herramienta esencial que resulta extremadamente útil al aprender un nuevo idioma.

Así que en lugar de tirar la toalla, ¿podríamos desarrollar y adaptar formas de mejorar y ayudar a nuestros procesos de comprensión y verificación?

Creo que la gente subestima enormemente la capacidad de los humanos de respetar el rendimiento humano a pesar de ser inferior al de las máquinas. Piensa en los ajedrecistas vs Stockfish, los maratonistas vs un coche, etc.

Creo que el quid es mucho más prosaico, como se esconde en el artículo.

> Tampoco quiero perder mi trabajo por un enredo de GPUs.

Parafraseando un GPTismo, no se trata del conocimiento o el estatus, se trata más de conservar su trabajo y su dinero.

Y eso solo puede responderse con políticas, y en mi opinión con una renta básica universal. Así que voten si pueden, gente; protesten si no, discutan, debatan, cabildeen con sus amigos, familiares, conocidos.

Creo que una parte poco valorada de las matemáticas ha sido contribuir con trabajo limpio y elegante precisamente para que otros puedan usarlo como base para trabajo posterior y nuevas ideas. Este volcado de OpenAI parece ser lo contrario. Enorme y desordenado, incomprensible y tomado en serio solo por Lean.

Existe la suposición de que la IA contribuirá a un progreso más rápido en matemáticas, pero dado el vertedero de pruebas que tenemos que aceptar por fe como robustas, me pregunto si lo contrario es cierto.

Mi reserva solo podría descartarse si la IA resulta ser capaz de aportar nuevas ideas fundamentales y plantear nuevos problemas. Eso nos lleva a un área donde el progreso de la IA ha sido lento, por decir lo menos.