La IA está arrojando un picnic al borde del camino
AI Is Throwing a Roadside Picnic
El autor usa la novela de los hermanos Strugatsky para explicar cómo la IA está transformando la ciencia: los laboratorios resuelven problemas del milenio y arrojan descubrimientos a un ritmo que los científicos no pueden procesar, como artefactos alienígenas incomprensibles. La pregunta central es si la velocidad de las respuestas se separará de nuestra capacidad de entenderlas, con consecuencias impredecibles.
La forma de lo que viene: la prueba se volverá barata y la comprensión se convertirá en el cuello de botella.
- asimpletune
> Todo este nuevo conocimiento está llegando a un ritmo mucho mayor que la capacidad del campo para procesarlo
Ese es el problema central: no es conocimiento, son datos. La IA no puede dar cuenta de las demostraciones, ni ser cuestionada sobre ellas, ni organizar una charla exponiendo la idea porque no hay comprensión detrás de nada de eso.
Esto es lo que Tao ha estado diciendo; que los resultados, en el sentido más estricto, nunca fueron el objetivo. En última instancia, lo valioso es la comprensión (que antes se requería para formar una demostración).
- prodmod
La utilidad depende de la comprensión, incluso si eso significa entender qué es posible pedir. Lo que se está generando ahora mismo es en realidad solo una traducción de un fenómeno inescrutable a otro. En ninguno de los dos casos tenemos poder sobre los datos, porque no sabemos qué significan, de dónde vienen realmente, ni siquiera el comienzo de los límites de lo que permite el descubrimiento. Hemos cambiado una caja negra por otra, y todavía necesitamos desentrañarla.
- pavel_lishin
Creo que el cuento de Ted Chiang "La evolución de la ciencia humana" puede ser una metáfora mucho mejor aquí. Lo que la IA está dejando caer es (supuestamente) solo respuestas, no misterios. En ambos casos, realmente no lo entendemos, pero en "Picnic", la mayoría de las cosas que quedan atrás ni siquiera son útiles, meramente misteriosas o, más a menudo, peligrosas. En "Evolución", las respuestas (y solo las respuestas) y las tecnologías llegan empaquetadas, con cero comprensión.
- https://en.wikipedia.org/wiki/The_Evolution_of_Human_Science
- https://gwern.net/doc/fiction/science-fiction/2000-chiang.pd...
- skybrian
Me gusta más esta metáfora: la comunidad matemática es como un grupo de astrónomos antiguos que inesperadamente reciben la salida de un telescopio moderno. "¿Para qué mirar el cielo ya?", dicen algunos. "¡Y ni siquiera somos dueños del telescopio!"
Mientras tanto, el observatorio Rubin está creando un archivo que crece 20 terabytes cada noche, y nadie se preocupa realmente por esto. Lidiar con esa cantidad de datos es definitivamente un problema, pero también un problema agradable de tener, siempre que exista una comunidad científica que pueda manejarlo. Las matemáticas se han convertido inesperadamente en Big Science y necesita haber una mejor relación entre los financiadores de los instrumentos científicos y los propios científicos.
Es un poco confuso que la salida del instrumento científico parezca artículos académicos mal escritos. ¿Quizás debería tratarse más como datos en bruto? El formato no es ideal, pero los historiadores (por ejemplo) a menudo tienen que lidiar con cosas mucho peores.
- m3047
Me gusta esa metáfora. Pero lo que me evoca es un "artefacto alienígena" que fue encontrado junto a un camino, y "¿cómo llegaron estos metales refinados dentro de una roca, en una formación tan antinatural?" y hubo mucho debate sobre este artefacto. Años después se determinó que en realidad era una bujía que había sido remineralizada por los efluentes de una mina río arriba: un proceso inusual actuando sobre un objeto desechado, y personas que quieren creer. Nadie pensó que el proceso de remineralización pudiera tomar menos de cientos de años, lo que descartaba la "bujía".