25 medallistas Fields denuncian una grave desalineación de la IA en las matemáticas
A Misalignment of AI in Mathematics
Terence Tao y otros 24 medallistas Fields firman una declaración que advierte que los objetivos de las empresas de IA están severamente desalineados con los de la comunidad matemática. Aunque los LLM ya resuelven problemas abiertos, los anuncios apresurados impiden la verificación, la atribución y la comprensión conceptual. Los firmantes piden abordar urgentemente esta amenaza para la ciencia y para todo el trabajo intelectual.
La producción en masa, a un ritmo cada vez más rápido, de afirmaciones de 'verdadero/falso' podría destruir el terreno fértil en lugar de dar vida a nuevas ideas.
- tomhow
Comentarios movidos a https://news.ycombinator.com/item?id=49662371.
- david-gpu
La crítica de Tao a la IA en el campo de las matemáticas me recuerda a lo que el crítico de arte francés Charles Baudelaire dijo en el siglo XIX sobre la fotografía [0].
Baudelaire sostenía que la fotografía se convirtió en un refugio para pintores fracasados, ese tipo de chapuceros que no pudieron terminar una formación adecuada. La fotografía, como representación mecánica del mundo, solo podía registrar lo que ya existía; no podía transformar la realidad como sí podía hacerlo una pintura.
También criticó la fiebre del público por "lanzarse" a ella, y se quejaba de que este "progreso" técnico estaba debilitando las artes.
¿Ves también algunos paralelismos?
[0] https://fr.wikisource.org/wiki/Curiosit%C3%A9s_esth%C3%A9tiq...
- metanoia_
En el artículo de The Economist que enlaza Tao, Hugo Duminil-Copin traza una comparación: lanzar a alguien en paracaídas a la cima del Monte Everest es muy distinto a escalarlo.
El problema fundamental de que la IA resuelva cualquier problema que se perciba como difícil es que hemos perdido el viaje. La vista desde la cima del Monte Everest se ve muy diferente cuando has escalado en comparación con que te dejen caer desde arriba.