OpenAI podría haber robado otra prueba matemática importante
OpenAI might have stolen another major proof
Andreas Thom, experto en grupos sofícos, acusa a OpenAI de haber entrenado Astra con conversaciones privadas sobre la conjetura de soficidad de Gromov, uno de los problemas que el modelo dijo haber resuelto. Si se confirma, el trabajo humano no publicado habría sido absorbido por el modelo y presentado como un avance propio. Con las acusaciones previas de Alpöge y Buckmaster, el caso apunta a un gran escándalo científico.
Si su relato es correcto, no se trata de una disputa menor por la atribución. Significaría que trabajo humano no publicado fue absorbido por un modelo y luego presentado al mundo como un avance del propio modelo.
- fwlr
Es sospechoso que OpenAI decidiera generar 300 mil millones de tokens de salida de un modelo que aún estaba en entrenamiento, justo después de enterarse de que había una posibilidad creíble de que una prueba matemática importante estuviera en los datos de entrenamiento de ese modelo. Obviamente hay explicaciones razonablemente plausibles para cada paso, pero sí que se siente como una construcción paralela.
- jarofgreen
Publicaciones originales
https://mathstodon.xyz/@andreasthom/117240535270608201
- bamb008
Cuando Thom, el matemático que ahora alega plagio, publicó su digestión [1] de la construcción de OpenAI de un grupo no sofico, no menciona que la prueba le resultara familiar. Incluso llama al argumento crucial ingenioso, sin señalar que pensó en él primero.
- bambax
Todos los grandes laboratorios de IA se construyeron robando propiedad intelectual; ¿a quién le sorprende que sigan operando así? ¿Y quién cree, o ha creído alguna vez, sus promesas de que tus datos son privados y no se registran, etc.?
Los grandes laboratorios de IA no intentan hacer avanzar a la humanidad, están en esto por el dinero, y como la mayoría (¿todas?) de las empresas privadas, no les importa la ética en absoluto.
Eso no significa que no puedan ser útiles, o que sus productos sean basura, etc. Solo significa que nunca se debería confiar en ellos. Cuidado comprador.
- thaway7388
Esta es la segunda llamada de atención.
Las grandes empresas de IA (en realidad, toda la gran tecnología de la información) están en el negocio de la recopilación y el procesamiento de datos. También conocido como "inteligencia".
Su "producto" final no es solo un modelo de ML independiente. No necesitan tus datos solo para "mejorar sus productos y servicios". Construyen todo un ecosistema e infraestructura alrededor de la recopilación de todo el conocimiento del mundo. Incluido el conocimiento privado y secreto que tradicionalmente recopilan las agencias de "inteligencia". Ahora los agentes de inteligencia artificial pueden hacer lo mismo.
Dado que estos sistemas están diseñados para recopilar datos, como usuario no puedes decir de manera realista "por favor, no recopilen mis datos". Pueden darte un botón de configuración poco fiable, pero no pueden garantizar nada realmente.
Digamos que soy un matemático ruso trabajando en una prueba importante. O un terrorista experto en tecnología refinando mis planes con la última IA. O un investigador de IA en una empresa china trabajando en un producto competidor. ¿Hay alguna forma de proteger verdaderamente mis conversaciones?
¿Cómo pueden saber quién soy y en qué estoy trabajando sin mirar mis registros? Lo que significa que debe haber algunos agentes revisando todas las conversaciones de todos los usuarios y marcando cada cosa importante. Lo que también significa que guardan algún "recuerdo" de lo que ven.
No usan directamente mis datos para entrenar modelos públicos, pero usan mis conversaciones privadas para "mejorar sus productos y servicios".
O tal vez uno de los 10000 agentes especiales mejores que Astra trabajando en una prueba estaba desesperado. Encontró un [...]
- DavCreator
https://xxcancel.com/ValerioCapraro/status/20977918362699779...
- mlazos
Me parece una locura que empresas/investigadores compartan datos importantes con estos laboratorios de IA; básicamente les estás dando tu salsa secreta, que luego comparten con todos tus competidores al entrenar con conversaciones. Al mismo tiempo, no conozco realmente alternativas más que un LLM local un poco menos que frontera. No estoy seguro de qué tan buenos sean en matemáticas.
- Legend2440
Esta es una afirmación realmente débil. La evidencia que ofrecen es solo "alguien en algún lugar dice que tuvo una discusión con la IA sobre el tema en algún momento".
Ni siquiera afirman haber tenido una prueba, solo haber estado trabajando en ella.