La comunidad matemática pide a los laboratorios de IA que dejen de probar problemas avanzados en modelos propietarios

Responsible Release of AI-Generated Mathematics

Un documento respaldado por más de 600 respuestas de la comunidad matemática propone normas para la publicación responsable de resultados generados por IA. Entre ellas: depositar los resultados en repositorios académicos, citar la literatura relevante, formalizar las pruebas y financiar actividades que permitan a los humanos comprender los avances. Los laboratorios no deberían usar estos resultados como marketing ni probar problemas avanzados en modelos propietarios.

No respaldamos esta práctica y les pedimos que dejen de probar problemas matemáticos avanzados en modelos propietarios.
  1. kingstnap

    En su mayor parte, bastante directo. La idea de que las demostraciones se desenredan, se atribuye adecuadamente la literatura existente y se publican en algún lugar conveniente donde se pueda comentar, con artefactos para verificación, es todo material muy poco controvertido.

    Creo que la opinión picante es definitivamente esta postura de que los problemas matemáticos de larga data no deberían usarse como benchmarks para modelos (específicamente propietarios). Expresado justo al principio.

    La justificación es bastante clara.

    > El uso de modelos internos propietarios por parte de laboratorios de IA para hacer investigación matemática corre el riesgo de crear un sistema de dos niveles donde los laboratorios superan al resto del campo, alienando efectivamente a la comunidad matemática de su propia disciplina.

    Todo es diversión y juegos (para los no matemáticos) cuando los matemáticos no pueden competir con los laboratorios de IA, pero creo que la dirección más peligrosa es cuando esto empiece a ser cierto para todo lo demás. Por ejemplo, la ciberseguridad o lo que sea. Por eso creo que toda la postura de Anthropic de estar completamente en contra de cualquier cosa abierta es en realidad *extremadamente* peligrosa debido a la centralización del poder, que ignoran por completo como factor de riesgo.

    Lo más discutible de esto es ciertamente la idea de que los laboratorios deberían financiar a matemáticos para hacer exposiciones.

    > Uno de nuestros principios es que los laboratorios de IA tienen la responsabilidad de proporcionar apoyo, incluida financiación, para el desarrollo de la comprensión humana de la producción matemática de la IA que publican.

    Obviamente, esto suena direccionalmente como el papel de los matemáti […]

  2. throwaway713

    > les pedimos que dejen de probar problemas matemáticos avanzados en modelos propietarios.

    Quizás soy el único en esto, pero por alguna razón este tipo de peticiones me parecen similares a controlar cómo alguien debería respirar aire. Es matemáticas... los números y símbolos simplemente están ahí fuera en el reino platónico, disponibles para que cualquiera haga lo que quiera con ellos. Es patentemente absurdo pedirle a otras personas que paren.

    ¿Asegurar el crédito donde se debe? Eso está bien. Si tu modelo incorpora los esfuerzos de muchos otros, entonces es razonable solicitar el reconocimiento de todos los que contribuyeron (incluso indirectamente). Pero eso no es lo que dice la petición — presumiblemente su solicitud abarca cualquier modelo avanzado de ML, incluidos aquellos que no fueron entrenados con un corpus gigante de texto.

  3. mchusma

    O el progreso matemático ayuda a avanzar la sociedad, en cuyo caso el progreso es algo bueno.

    O las matemáticas son más bien un pasatiempo, y aunque la IA pueda arruinar su diversión, tienen que seguir adelante como los jugadores de ajedrez y go.

  4. unddoch

    Por cada problema de partida importante resuelto por la IA, sin matemáticos no sabríamos de la existencia e importancia del problema.

    Las conjeturas matemáticas famosas son construcciones sociales, formadas por décadas o incluso siglos de atención que les han dado los miembros de la comunidad matemática. Sin eso, el peligro es que el "progreso" matemático futuro se reduzca a generar tablas de declaraciones Lean y un bit probable/improbable generado por IA.

  5. astaza123

    Como respuesta a las empresas de IA, esto es muy malo: en lugar de intentar encontrar un camino hacia una solución más o menos beneficiosa para todos con algunos compromisos, esto dice: lo siento, no se nos ocurre ninguna, así que simplemente dejen de ganar dinero, ¿vale? Las matemáticas necesitan mejores gestores de crisis.

    Pero como idea, esto es aún peor: ¿significa detener la investigación potencial sobre la fusión fría, el cáncer y cualquier cosa siempre que pueda tocar los intereses de algún matemático, o significa que las matemáticas son tan irrelevantes sin remedio que este no puede ser el caso... De nuevo, como gestor de crisis, no es así como lo planteas.

    Me hace preguntarme, ¿los contrató Sam para sabotear?

  6. LelouBil

    Vi una entrevista (en francés) de Cédric Villani, hablando en nombre propio y de otros medallistas Fields, que decía que para avanzar en matemáticas necesitamos tres cosas:

    - ideas

    - estudiantes

    - problemas

    Básicamente, estudiantes que aporten ideas originales para intentar resolver problemas existentes y esto genera nuevas ideas y posiblemente nuevos problemas para que nuevos estudiantes intenten resolver con nuevas ideas, y así sucesivamente.

    Y continuó diciendo que el problema con los LLM en matemáticas es que teme que se queden sin problemas, y entonces los estudiantes no se molestarían en intentarlo, y esto podría dañar la comprensión de las matemáticas en su conjunto.

    No es en absoluto mi campo, así que no estoy seguro de qué pensar, pero parece importante

  7. Animats

    Este artículo quiere que las empresas de IA paguen a matemáticos humanos para entender las cosas generadas por IA.

    Esa es una petición inusual.

  8. dsign

    > Sin embargo, ahora es el caso que la IA puede producir argumentos matemáticos en situaciones donde el humano que la incitó no es capaz de entender los argumentos, verificarlos o asumir responsabilidad por ellos.

    Leo esto como "cualquiera puede hacer el prompt, pocos pueden entender". Y "necesitamos más que puedan entender". Si tuviéramos más matemáticos (de los que tenemos hoy) todos pilotando modelos avanzados, el pastel crecería. El problema es que las capacidades de la IA drenan (al desincentivar) la tubería educativa que nos daría esos matemáticos, y si hay que creer los recientes rumores sobre lo que la IA está haciendo a la educación, lo hace muchos años antes de que los estudiantes siquiera lleguen al posgrado.

    En mi humilde opinión, no es tan malo. No tener ningún humano que entienda álgebra lineal después de la Yihad Butleriana es una victoria :-) .

Más de este día

2026-09-30