AHM rechaza la liberación masiva de documentos matemáticos de OpenAI: "una demostración de poder, no de erudición"
AHM Statement on OpenAI's October 6 Release of Mathematical Documents
La Asociación para las Matemáticas Humanas (AHM) criticó la publicación de más de 700 archivos por parte de OpenAI, que enfrenta demandas por plagio y violación de derechos de autor. La AHM señala que OpenAI ignoró la premisa central de su propio grupo asesor, que pedía no probar problemas matemáticos avanzados en modelos internos. La asociación insta a los matemáticos a rechazar este modelo de publicación y a suspender su colaboración con OpenAI.
Liberar más de 700 archivos a la vez no es una demostración de erudición, sino una demostración de poder.
- skwirl
Me cuesta muchísimo ver cómo esta carta podría percibirse como persuasiva. De hecho, esta carta deja claro que las personas detrás de ella buscan mantener su poder, prestigio y control previamente arraigados sobre un campo del conocimiento humano. Y lo están haciendo de una manera fútil y degradante.
- spongebobism
Hay 2 puntos fuertes enterrados entre la burla: que el grupo asesor de matemáticas de IA, con el que OpenAI anunció que colaboraría hace solo 2 semanas y media, está en contra de usar modelos internos para resolver problemas abiertos (según sus directrices generales[0]); y que esta forma de volcar resultados antes de tener una formulación amigable no pone en el centro la comprensión humana.
En mi opinión, la forma de publicar de OpenAI también va en contra de otras partes de las directrices generales. Además, dudo que sigan el punto 2B3:
> Por cada resultado publicado, el laboratorio de IA debería hacer público el nombre del modelo, los prompts utilizados, una cadena de pensamiento (resumida), el tiempo empleado y el coste computacional estimado. Se anima encarecidamente a publicar material adicional que arroje luz sobre el proceso científico que produjo los resultados, como las salidas iniciales del LLM antes de ser limpiadas (como se recomienda en (1) arriba).
- crypto420
En cierto modo entiendo su punto.
Durante miles de años las matemáticas tuvieron ese aura de estar en la cúspide del pensamiento humano y ser una de las cosas que nos separaba de otras especies. Gente como Euler, Gauss, Euclides, Hilbert, Erdős tenían ese aura de que estaban en la más noble de las empresas: intentar resolver problemas que no tenían uso práctico inmediato, y que en gran medida requerían pensamiento concentrado durante periodos prolongados con la chispa ocasional de creatividad.
Entonces llega la IA, un evento de extinción masiva para todo el campo. Resulta que los LLM pueden pensar durante más tiempo sin parar, tienen mejor memoria y memoria de trabajo. Lo que estamos viendo ahora es un conjunto de instituciones de 5000 años enfrentándose a una amenaza existencial porque ya no requieren que los humanos sean la única fuente de trabajo.
Encuentro que la analogía más cercana es la de los automóviles desplazando a la industria de los carruajes tirados por caballos a principios del siglo XX. Los caballos no pudieron protestar y rápidamente se quedaron sin trabajo, pero los dueños de carruajes y esa industria ciertamente sí lo hicieron.
https://ghostsofdc.org/2018/07/16/horse-dealers-claim-automo...
- fidotron
"Los matemáticos no pidieron que se hiciera este trabajo".
¿Mucho gatekeeping, no?
"Los matemáticos tienen una visión particular del progreso que está informada por la historia y consideraciones específicas del campo".
Esto no puede haberlo escrito seriamente alguien con conocimientos matemáticos, es demasiado vergonzoso.
- woopwoop
Soy un exmatemático que ahora trabaja en un empleo normal (no afiliado a OpenAI). Hablando solo por mí, encuentro esta declaración profundamente vergonzosa y en desacuerdo con el espíritu de indagación abierta del que la comunidad matemática ha sido (casi) siempre un estandarte.