La comunidad matemática pide a los laboratorios de IA que dejen de probar problemas avanzados en modelos propietarios
Responsible Release of AI-Generated Mathematics
Un documento respaldado por más de 600 respuestas de la comunidad matemática propone normas para la publicación responsable de resultados generados por IA. Entre ellas: depositar los resultados en repositorios académicos, citar la literatura relevante, formalizar las pruebas y financiar actividades que permitan a los humanos comprender los avances. Los laboratorios no deberían usar estos resultados como marketing ni probar problemas avanzados en modelos propietarios.
No respaldamos esta práctica y les pedimos que dejen de probar problemas matemáticos avanzados en modelos propietarios.
- throwaway713
> pedimos que dejen de probar problemas matemáticos avanzados en modelos propietarios.
Quizás soy el único, pero por alguna razón este tipo de peticiones me parecen similares a controlar cómo alguien debería respirar aire. Son matemáticas... los números y símbolos simplemente están ahí en el reino platónico, disponibles para que cualquiera haga lo que quiera con ellos. Es patentemente absurdo pedirle a otras personas que paren.
¿Asegurar el crédito donde se debe? Eso está bien. Si tu modelo incorpora los esfuerzos de muchos otros, entonces es razonable pedir el reconocimiento de todos los que contribuyeron (incluso indirectamente). Pero eso no es lo que dice la petición — presumiblemente su solicitud abarca cualquier modelo avanzado de ML, incluidos aquellos que no fueron entrenados con un corpus gigante de texto.
- kingstnap
En su mayoría es bastante directo. La idea de que las pruebas se descomplejicen, se atribuya adecuadamente la literatura existente y se publiquen en algún lugar expeditamente donde se pueda comentar, con artefactos para verificación, es todo algo muy poco controvertido.
Creo que la opinión picante es definitivamente esta postura de que los problemas matemáticos de larga data no deberían usarse como benchmarks para modelos (específicamente propietarios). Expresado justo al principio.
La justificación es bastante clara.
> El uso de modelos internos propietarios por parte de laboratorios de IA para hacer investigación matemática corre el riesgo de crear un sistema de dos niveles donde los laboratorios superan al resto del campo, alienando efectivamente a la comunidad matemática de su propia disciplina.
Todo es diversión y juegos (para los no matemáticos) cuando los matemáticos no pueden competir con los laboratorios de IA, pero creo que la dirección más peligrosa es cuando esto empiece a ser cierto para todo lo demás. Por ejemplo, la ciberseguridad o lo que sea. Por eso creo que toda la postura de Anthropic de estar completamente en contra de cualquier cosa abierta es en realidad *extremadamente* peligrosa debido a la centralización del poder, que ignoran por completo como factor de riesgo.
Lo más discutible de esto es ciertamente la idea de que los laboratorios deberían financiar a matemáticos para hacer exposiciones.
> Uno de nuestros principios es que los laboratorios de IA tienen la responsabilidad de proporcionar apoyo, incluida financiación, para el desarrollo de la comprensión humana del resultado matemático de la IA que publican.
Obviamente, en dirección esto suena como el papel de los matemáti […]
- astaza123
Como respuesta a las empresas de IA, esto es muy malo: en lugar de intentar encontrar un camino hacia una solución más o menos beneficiosa para todos con algunos compromisos, esto dice: lo siento, no se nos ocurre ninguna, así que simplemente dejen de ganar dinero, ¿quieres? Las matemáticas necesitan mejores gestores de crisis.
Pero como idea, esto es aún peor: ¿significa detener la investigación potencial sobre fusión fría, cáncer y cualquier cosa siempre que pueda tocar los intereses de algún matemático, o significa que las matemáticas son tan irrelevantes sin remedio que este no puede ser el caso... De nuevo, como gestor de crisis, no es así como lo planteas.
Me hace preguntarme, ¿los contrató Sam para sabotear?
- unddoch
Por cada problema importante de emparejamiento resuelto por IA, sin matemáticos no sabríamos de la existencia e importancia del problema.
Las conjeturas matemáticas famosas son constructos sociales, formados por décadas o incluso siglos de atención prestada por miembros de la comunidad matemática. Sin eso, el peligro es que el "progreso" matemático futuro se reduzca a generar tablas de declaraciones Lean y un bit probable/indemostrable generado por IA.
- mchusma
O el progreso matemático ayuda a avanzar a la sociedad, en cuyo caso el progreso es algo bueno.
O las matemáticas son más bien un pasatiempo, y aunque la IA pueda arruinar su diversión, necesitan seguir adelante como los jugadores de ajedrez y go.