OpenAI y el avance matemático en Navier-Stokes que desató una controversia
How An AI math breakthrough ignited a controversy
Un supuesto avance de la IA en el problema de Navier-Stokes ha provocado un intenso debate en Hacker News. Mientras OpenAI afirma que su enjambre de agentes resolvió el problema de forma autónoma, los críticos sostienen que los investigadores ya habían hecho el trabajo clave y que OpenAI simplemente se aprovechó de rumores para orientar su enorme cómputo. La disputa también cuestiona si este enfoque puede extenderse a problemas no verificables formalmente, como el diseño de materiales o fármacos.
Lo que los titulares aclamaron como un descubrimiento de AGI, los hechos muestran más bien a alguien pasando años buscando oro, llega el rumor a OpenAI de que puede haber oro en ese lugar específico, minan allí y descubren oro al instante, y luego le dicen al mundo que han desarrollado la mejor máquina de encontrar y minar oro del mundo.
- rsfern
Independientemente de lo que pienses sobre el asunto de la disputa por la prioridad que se discute en hilos hermanos, soy muy escéptico respecto a la cita final de que este resultado de Navier-Stokes signifique que el mismo enfoque de gastar alegremente unos millones en computación agéntica vaya a resolver de principio a fin el diseño de materiales o el desarrollo de fármacos.
Esos problemas no se pueden verificar formalmente con un demostrador automático de teoremas. Tenemos muchas herramientas de simulación basadas en la física, pero tienden a centrarse en pequeños subconjuntos del problema de diseño completo y hacen aproximaciones limitantes porque, de lo contrario, serían demasiado costosas computacionalmente, o simplemente no tenemos los datos adecuados para parametrizarlas más allá de describir un comportamiento cualitativo. Los agentes están ayudando a acelerar la investigación en estos campos, pero creo que en su mayoría es una clase diferente de problema que es mucho más difícil de especificar y verificar.
- afavour
La sección central:
> Sin embargo, las comunicaciones pronto se volvieron conflictivas. Según Buckmaster, OpenAI se ofreció a darle la autoría exclusiva de la solución de Navier-Stokes, pero solo si se eliminaba el nombre de Alpöge del trabajo y si el escrito reconocía que el problema había sido resuelto por un modelo interno de OpenAI. Buckmaster se negó, en parte porque le inquietaba la cuestión de qué había visto realmente el sistema de OpenAI. Por ejemplo, Buckmaster dijo que la empresa inicialmente no le dio una respuesta clara sobre si sus agentes tenían acceso a los registros de la pareja en Codex (que es un producto de OpenAI).
> Los ejecutivos de OpenAI han negado que algún empleado o agente de IA viera el trabajo de la pareja antes de que los investigadores lo publicaran el 7 de septiembre. Pero aún queda una pregunta aparte: ¿Podría el trabajo de la pareja haber llegado a los modelos de OpenAI a través de sus datos de entrenamiento?
> El blog de OpenAI que anuncia la solución de Navier-Stokes no descarta la posibilidad: «Aunque es poco probable, no podemos descartar que datos desidentificados derivados del uso de nuestros productos por parte de [Buckmaster y Alpöge] hayan ayudado a mejorar nuestros modelos».
- timmg
Creo que fue algo bastante cuestionable por su parte intentar adelantarse a estos investigadores, incluso si no utilizaron sus técnicas. El hecho de que puedan haber «tomado prestado» inadvertidamente su trabajo a través de los datos de entrenamiento lo empeora mucho más.
El comportamiento de OpenAI aquí —incluso si solo consideras [su] versión de la historia— fue (en el mejor de los casos) de mal gusto.
- plaidfuji
Todo el asunto apesta a la desesperación de una startup no rentable respaldada por capital riesgo que busca su próxima victoria de relaciones públicas para mantener el viento en las velas.
Pero creo que lo que se está pasando por alto en la carrera por reclamar el crédito absoluto es que ambos lados en última instancia dependieron de un LLM (y de uno de OpenAI, nada menos). O un investigador humano hizo un descubrimiento revolucionario con la ayuda de Codex, o el último modelo GPT hizo un avance con la ayuda de datos de entrenamiento humanos, o un poco de ambos… en cualquier caso, es innegable que los LLM se han convertido rápidamente en una parte integral de los flujos de trabajo de I+D y están acelerando la investigación.
Esto sería una gran victoria para cualquier empresa normal. Incluso podrías construir una colaboración más grande con este tipo, darle un gran presupuesto e impulsar extensiones de este resultado preliminar, y a cambio hacer un artículo sobre cómo usa tu modelo en su flujo de trabajo. Una enorme victoria de relaciones públicas. Lo que esto me dice es que su valoración es tan astronómica que sienten que la única forma de justificarla es demostrar un bot de descubrimiento totalmente autónomo… que simplemente no lo es.
- elgertam
> «Ciertamente no espero que la industria siga gastando millones de dólares para resolver problemas de matemáticas, porque no hay beneficio en ello», escribió en un correo electrónico a Science el matemático de la Universidad de Columbia Michael Harris. Pero le preocupa que el logro tan publicitado sea «extremadamente dañino para las matemáticas; convence a los responsables de tomar decisiones de que los matemáticos humanos son obsoletos, y convence a los jóvenes de que su pasión por las matemáticas no tiene futuro».
Los LLM parecen especialmente adecuados para estos problemas de prueba de existencia. Los matemáticos en activo parecen absolutamente esenciales para los resultados universalmente cuantificados, todavía. Dudo mucho, por ejemplo, que si el Último Teorema de Fermat no se hubiera demostrado hace tres décadas, un LLM pudiera hacer un trabajo equivalente a inventar las matemáticas como lo hizo Andrew Wiles para resolver el problema. Tengo dudas similares sobre P vs NP, la conjetura de los primos gemelos, incluso la Hipótesis de Riemann (a menos que esta última tenga al menos un contraejemplo).
Y quiero ser claro: no estoy minimizando los logros de estos modelos. ¡Esto es notable! Simplemente creo que el patrón de éxito está en las pruebas de existencia o en encontrar contraejemplos, lo cual tiene sentido según cómo funcionan y se entrenan los LLM.
- pseudolus
Discusión extensa sobre la publicación de OpenAI en el blog sobre Navier-Stokes: https://news.ycombinator.com/item?id=49613262 .
Artículo de Quanta Magazine que también discute parte de la controversia: https://www.quantamagazine.org/ai-has-solved-one-of-maths-1-...
- VyseofArcadia
Independientemente del resultado final, el comportamiento de OpenAI sería un escándalo ético que acabaría con la carrera de un matemático humano. Solo esta parte bastaría para terminar con una carrera.
> Según Buckmaster, OpenAI se ofreció a darle la autoría exclusiva de la solución de Navier-Stokes, pero solo si se eliminaba el nombre de Alpöge del trabajo y si el escrito reconocía que el problema había sido resuelto por un modelo interno de OpenAI.
Me pregunto si una respuesta apropiada de la comunidad matemática sería un buen y anticuado ostracismo. Los matemáticos pueden usar las herramientas de OpenAI tanto como quieran, pero que nadie con alguna afiliación actual o pasada a OpenAI publique en una revista de prestigio, nunca.
- fxj
Aviso: el problema en cuestión es un problema de existencia. No se proporciona ninguna construcción real de ninguna fórmula real para la solución, solo una expansión de perturbación singular.
En resumen: el problema trata de si se puede encontrar una solución (de las Ecuaciones NS con fuerza externa impulsora) que explote en tiempo finito. Es decir, que exhiba velocidad infinita en un punto incluso para un flujo viscoso.
La solución: Toma un ansatz de rizo circular que se contrae en la dirección xy y se alarga en la dirección z y mira si puedes encontrar ondas linealizadas de modo que estas ondas muestren una explosión cuando se propagan sobre el rizo. Luego demuestra que los órdenes superiores de la perturbación son regulares antes del tiempo de singularidad T0 y habrás resuelto el problema. La fuerza externa es simplemente el resto del lado derecho de la Ecuación NS.
Es un montón de tedioso malabarismo de fórmulas de todos los órdenes superiores y algunas expansiones de perturbación singular. Perfectamente adecuado para sistemas de álgebra. OpenAI probablemente estaba usando python sympy para el trabajo de fórmulas y los investigadores tuvieron que guiar al LLM sobre qué hacer en lenguaje matemático superior.
Aquí está el artículo:
https://cdn.openai.com/pdf/32d9f210-8b73-45e0-91bc-82a30aef8...
cuando lo subes a chatgpt astra puede explicar qué hacen y por qué funciona, diviértete.